生成式人工智能快速发展引发安全担忧

今年以来，以ChatGPT为代表的生成式人工智能，凭借其惊艳的语言理解、生成、知识推理能力，在全世界掀起了一波人工智能领域的技术巨浪，短短两个月内全球活跃用户数达到1亿人。然而，在生成式人工智能技术“火爆全场”的同时，其引发的问题、争议与担忧也接踵而至。如何让监管在促进技术发展与确保社会安全之间实现平衡，将是一个不小的考验。一据《华尔街日报》报道，一群欧洲议员4月17日致函表达了他们对人工智能技术的担忧，并呼吁制定更多的规则来对其加以监管。在信中，议员们列出了他们希望看到欧洲议会采取的几项举措，包括在拟议的《人工智能法案》草案中提供一个框架，旨在“引导强大的人工智能朝着以人为本、安全可靠的方向发展”，此外还提及应召开关注人工智能风险的全球峰会。欧盟内部市场委员蒂埃里·布雷顿称，计划中的《人工智能法案》将帮助人们消除对新近大热的ChatGPT聊天机器人以及其他人工智能技术风险的担忧。欧盟理事会则表示，这项法案将与其他倡议齐头并进，包括旨在加快欧洲人工智能投资的《人工智能协调计划》。除欧盟层面外，欧洲多国政府也已将人工智能技术监管提上议程。意大利负责监管数据的机构3月31日宣布将暂时禁止在其境内使用ChatGPT，并限制相关公司处理意大利用户信息数据，同时对其隐私安全问题立案调查。德国监管部门随后也警告称，可能会效仿意大利的做法，出于数据安全问题阻止ChatGPT在该国的使用。法国、西班牙、英国等国，也纷纷就ChatGPT所引发的数据隐私泄露等问题，展开调查或发出警告。二事实上，即使在ChatGPT的“老家”美国，政府以及商界、科技界的不少人士，近来也就人工智能技术监管问题密集发声，甚至直接“出手”。18日，美国联邦贸易委员会领导人表示，ChatGPT等最新的人工智能工具可能导致诈骗行为激增，该机构将追究滥用人工智能技术来进行欺诈的公司。美国商务部11日就人工智能问责措施公开征求意见，希望了解是否可以采取措施来保证人工智能系统是“合法、有效、合乎道德且安全的”。《华盛顿邮报》认为，这是美国商务部迄今应对人工智能技术的最重大举措。在行政部门的具体监管动作外，美国政府高层似乎也在酝酿更宏大的监管方案。4月初，美国总统拜登表示，人工智能是否危险还有待观察，但他强调，科技公司有责任确保其产品在公开之前是安全的。美国参议院多数党领袖、民主党人查克·舒默13日表示，他已经起草了一个针对ChatGPT等人工智能工具的监管框架，防止其对社会和国家安全可能造成的大范围影响。在政府之外，包括特斯拉公司CEO埃隆·马斯克和苹果联合创始人沃兹尼亚克在内的一批商界与科技巨头，也是美国国内要求加强人工智能技术监管的一支重要力量。3月29日，马斯克等千名业界和学界人士联署公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统，暂停至少6个月，以便制定和实施安全协议。4月16日，在一档哥伦比亚广播公司的采访节目上，谷歌母公司Alphabet的首席执行官桑达尔·皮查伊表示，人工智能技术可能带来巨大的安全问题，因此必须有监管存在，以确保人工智能对世界的影响。三人工智能技术让人“不省心”的问题，主要是这样几个方面：数据的来源合法性，用户数据尤其是隐私的安全，虚假信息和网络犯罪，商业秘密泄露风险以及国家安全隐患。在带来重重隐忧的同时，人工智能技术的监管难度又比较大。一个技术上的难点在于算法的“可解释性问题”，深度神经网络一直存在“算法黑箱”，或许连技术开发者也很难说清算法是如何运行的，因此也难以对其加以相应的监管；另一个技术难点是，生成式人工智能的供应链过长，涉及大模型服务商、开源厂商、应用商、云厂商、终端用户等一连串角色，这也给有针对性的问责带来很大的挑战。不过，从根本上说，人工智能技术监管最难的地方，还是如何做到既能实现有效监管，又不妨碍这一技术及相关产业的发展。在此背景下，联合国教科文组织上月末号召各国执行其《人工智能伦理问题建议书》。联合国教科文组织总干事阿祖莱表示，世界需要加强人工智能伦理规范，这是“我们这个时代面对的挑战”。教科文组织《人工智能伦理问题建议书》设定了适当的规范性框架，并于2021年11月获得全部会员国通过。现在到了在国家层面实施有关战略和法规的时候。 原文链接：http://shuzhiren.com/post/9023.html