在暗网论坛、即时通讯应用和全球各地的学校中，一场灾难正在酝酿：生成式人工智能被用于制作儿童色情图片和视频，每天可能有数千张。“或许全国数以百万计的孩子在某种程度上受到了这项技术的影响，”我本周报道说，“他们要么直接成为受害者，要么知道其他学生也成为了受害者。”
昨天，非营利组织民主与技术中心(Center for Democracy and Technology)发布了一系列最新报告，记录了这场危机，发现15%的高中生表示，他们听说过一张人工智能生成的图像，描绘了与他们学校有关的人以露骨或亲密的方式进行性行为。此前，联合国区域间犯罪和司法研究所的一个小组共同撰写的一份报告发现，接受调查的全球执法人员中有50%遇到过人工智能生成的儿童性虐待材料(CSAM)。
生成式人工智能破坏了检测和摧毁CSAM的主要方式。在这项技术广泛使用之前，大多数CSAM都是由循环内容组成的，这意味着任何与已知滥用图像数据库相匹配的内容都可以被标记和删除。但生成式人工智能使得轻松快速地生成新的滥用图像成为可能，从而绕过已知案例列表。与此同时，根据CDT的报告，学校并未充分更新他们的性骚扰政策，也没有对学生和家长进行教育。
尽管这个问题非常具有挑战性和令人不安，但与我交谈过的专家们对可能的解决方案仍抱有希望。其中一位专家告诉我，“我确实看到了”避免世界末日的“机会之窗”。“但我们必须在错过之前抓住它。”
高中正在成为露骨的深度色情作品的温床
文/马特奥·黄
多年来，生成式人工智能被用来创造各种各样的现实——令人眼花缭乱的绘画和惊人的动画世界与人物，真实与虚构交织。这种力量带来了巨大的阴暗面，许多专家现在才开始应对：人工智能被用来制作未经同意的儿童色情图像和视频。这不仅是少数几个案例，或许全国数百万的孩子在某种程度上受到了这项技术的影响，他们要么直接成为受害者，要么知道其他学生已经成为受害者。
昨天，倡导数字权利和隐私的非营利组织民主与技术中心(Center for Democracy and Technology)发布了一份报告，指出美国学校中未经同意的亲密图像(NCII)的流行程度令人担忧。该中心的民意调查发现，在过去的一学年，15%的高中生报告说听说过“深度假”——或人工智能生成的图像——以露点或亲密的方式描绘了与他们学校有关的人。该报告的合著者之一、CDT公民技术公平主管伊丽莎白·莱尔德(Elizabeth Laird)告诉我，生成型人工智能工具“增加了学生成为受害者和肇事者的可能性”。换句话说，不管人工智能在其他方面有什么好处——简化死记硬背的任务，发现新药，取代人类艺术，吸引数千亿美元的投资——技术让侵犯儿童变得更加容易。
接下来要读什么?
周三，OpenAI宣布了又一轮引人注目的离职：首席技术官、首席研究官和一名研究副总裁都离开了这家点燃了生成型人工智能热潮的初创公司。不久之后，几家新闻媒体报道称，OpenAI正在放弃其非营利起源，成为一家估值可能达到1500亿美元的营利性公司。
这些变化可能会让一些人感到惊讶，因为OpenAI的使命是打造“造福全人类”的人工智能。但在长期观察人士看来，这只是一个结局，其中包括正在写一本关于OpenAI的书的科技调查记者凯伦·郝(Karen Hao)。凯伦在《大西洋月刊》的一篇文章中写道：“昨天宣布的所有变化只是向公众展示了公司内部长期以来发生的事情。”（《大西洋月刊》最近与OpenAI建立了企业合作关系。）
几个月前，正如卡伦和我的同事查理·沃泽尔当时所报道的那样，OpenAI的内部派系担心，首席执行官萨姆·奥特曼(Sam Altman)正在引导公司走向利润，背离使命，试图将他赶下公司。“当然，钱赢了，奥特曼最终名列前茅，”凯伦昨天写道。从那以后，几位联合创始人离开或正在休假。卡伦指出，在周三的离职之后，“奥特曼的权力巩固即将完成。”
注:
本周早些时候，许多北卡罗来纳州人看到了一则人工智能生成的政治广告，攻击共和党候选人马克·罗宾逊(Mark Robinson)。就在几个小时前，内森·e·桑德斯(Nathan E. Sanders)和布鲁斯·施奈尔(Bruce Schneier)在《大西洋月刊》(The Atlantic)的一篇文章中指出了这种可能性，他们写道，人工智能生成的竞选广告即将到来，混乱可能随之而来。他们写道：“上个月，联邦选举委员会宣布，它甚至不会尝试制定新的规则，禁止利用人工智能通过深度伪造的音频或视频在竞选广告中冒充候选人。”尽管人工智能在政治广告中有许多合法的潜在用途，也有许多州法律对其进行监管，但由于缺乏联邦行动，人工智能破坏总统选举的大门大开。
— Matteo
本文来自作者[书文]投稿，不代表颖玥研立场，如若转载，请注明出处：https://oiowagr.cn/zhhe/202412-22747.html
评论列表（4条）
我是颖玥研的签约作者“书文”！
希望本篇文章《人工智能引发儿童性虐待危机》能对你有所帮助！
本站[颖玥研]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 在暗网论坛、即时通讯应用和全球各地的学校中，一场灾难正在酝酿：生成式人工智能被用于制作儿童色情图片和视频，每天可能有数千张。“或许全国数以百万计的孩子在某种程度上受到了这项...