做网站的公司好坑啊,视频类网站怎么做,有关网站开发的书籍,wordpress嵌入视频播放撰文#xff1a;Ingrid Lunden 来源#xff1a;TechCrunch 图片来源#xff1a;由无界AI生成 人工智能的前景和危害是如今的热门话题。有人说人工智能将拯救我们#xff0c;可以帮助诊断一些恶性疾病、弥补教育领域的数字鸿沟等。但也有人担心它在战争、安全、错误信息等方… 撰文Ingrid Lunden 来源TechCrunch 图片来源由无界AI生成 人工智能的前景和危害是如今的热门话题。有人说人工智能将拯救我们可以帮助诊断一些恶性疾病、弥补教育领域的数字鸿沟等。但也有人担心它在战争、安全、错误信息等方面带来的威胁。它成为了普通人的消遣方式在商业领域敲响了警钟。 人工智能的作用很大但它还无法让满屋子叽叽喳喳的嘈杂声安静下来。本周众多学者、监管者、政府领导、初创企业、大型科技公司以及数十家盈利和非盈利组织齐聚英国将就人工智能展开讨论和辩论。 01 为什么是英国为什么是现在 本周三和周四英国将在布莱切利公园Bletchley Park举办“人工智能安全峰会”这是英国首次举办此类活动。 峰会筹划数月旨在探讨人工智能带来的一些长期问题和风险。峰会的目标是理想化的而不是具体的“共同理解前沿人工智能带来的风险和采取行动的必要性”、“就前沿人工智能安全开展国际合作的前瞻性进程包括如何最好地支持国家和国际框架”、“各组织应采取适当措施提高前沿人工智能的安全性”等等。 这种高层次的愿望也反映在与会者的身份上政府高级官员、行业领袖和该领域的著名思想家都将出席会议。据最新报道埃隆 - 马斯克拜登总统、Justin Trudeau 和 Olaf Scholz 等将出席。 这场峰会听起来很特别而事实也确实如此峰会的“金门票”伦敦的科技公司创始人兼作家 Azeem Azhar 如是描述供不应求。据悉峰会将是小范围的而且大多是封闭式的。这些活动包括在英国皇家学会英国国家科学院举行的会谈在多个城市举行的大型“人工智能边缘”会议AI Fringe以及许多特别工作组的公告等等。 剑桥大学明德鲁技术与民主中心执行主任 Gina Neff 上周在英国皇家学会举行的一次关于科学与安全的晚间小组讨论会上说“我们将扮演好我们已经处理好的峰会的角色。换句话说在布莱切利举行的活动将做它该做的事而不在活动范围内的事情将成为人们集思广益讨论其他问题的机会。” Neff 的小组讨论就是一个很好的例子在英国皇家学会座无虚席的大厅里她与人权观察组织的代表、大型工会 Unite 的国家官员、专注于全球南部地区科技公平问题的智库 Tech Global Institute 的创始人、初创公司 Stability AI 的公共政策负责人以及剑桥大学的计算机科学家坐在一起。 与此同时所谓的人工智能边缘会议可以说是只是名义上的“边缘”。由于布莱切利峰会是在一周中的同一个地点举行而且来宾名单非常有限了解会议讨论内容的机会也同样有限因此人工智能边缘会议很快就扩展到了布莱切利并充实了会议议程。据悉这次活动不是由政府组织的而是由一家名为 Milltown Partners 的公关公司该公司曾代表 DeepMind、Stripe 和风险投资公司 Atomico 等公司组织的有趣的是它持续了整整一周在全国多个地点举行能得到门票的人可以免费参加许多活动的门票都已售罄且其中许多会议还提供流媒体服务。 尽管活动丰富多彩但让人非常痛心的一点是关于人工智能的讨论尽管才刚刚起步却仍然是如此分裂一个是权力机构的会议其中大多数会议只对受邀嘉宾开放另一个则是我们其他人的会议。 今天早些时候由 100 名工会和维权人士组成的团体致信首相称政府不让他们参与布莱切利公园的活动是在“挤压”他们在对话中的声音。他们可能没有拿到门票但他们的反对方式绝对是明智的该组织通过与《金融时报》等国内最精英的经济刊物分享这封信将其公之于众。 被冷落的不仅仅是普通人。牛津大学哲学系讲师 Carissa Véliz 在今天的人工智能边缘活动中说道“我认识的人中没有一个受到邀请。” 一些人认为精简是有好处的。 人工智能研究科学家 Marius Hobbhahn 是阿波罗研究公司Apollo Research的联合创始人和负责人该公司正在开发人工智能安全工具。他认为人数少也可以引起更多关注“房间里的人越多就越难得出任何结论或进行有效的讨论”他说。 从更广泛的意义上讲此次峰会只是一块“砖”是目前正在进行的更广泛对话的一部分。上周英国首相苏纳克Rishi Sunak表示打算在英国成立一个新的人工智能安全研究所和一个研究网络以便花更多时间和心思研究人工智能的影响Yoshua Bengio 和 Geoffrey Hinton 为首的一批著名学者发表了一篇名为《在快速进步的时代管理人工智能风险》的论文集体投入到这一领域联合国也宣布成立了自己的特别工作组探讨人工智能的影响。近日美国总统乔 - 拜登也发布了美国自己的行政命令以制定人工智能安全标准。 02 “生存风险” 最大的争论之一是人工智能带来“生存风险”的观点是否被夸大了甚至是否是有意为之以消除对更直接的人工智能活动的审查。 剑桥大学系统数学教授 Matt Kelly 指出其中一个经常被引用的领域是错误信息。 “错误信息并不新鲜。它甚至不是本世纪或上世纪的新事物”他上周在接受采访时说。“但这是我们认为人工智能短期和中期存在潜在风险的领域之一。而这些风险是随着时间的推移慢慢形成的。”Kelly 是英国皇家科学学会的研究员他说该学会在峰会筹备期间还专门针对科学领域的错误信息进行了一次红蓝队演练以了解大型语言模型在试图相互竞争时会有怎样的表现。“这是一种尝试试图更好地理解现在的风险是什么”。 英国政府似乎在这场辩论中持两面态度危害因素比它所举办的活动名称“人工智能安全峰会”更为明显。 苏纳克在上周的演讲中说“现在我们对所面临的风险还没有一个共同的认识。”“没有这种共识我们就无法指望共同应对这些风险。这就是为什么我们将大力推动就这些风险的性质达成首份国际声明的原因”。 但在设立峰会时英国首先将自己定位为制定“当我们谈论人工智能时我们谈论什么”议程的核心参与者而且它当然也有经济角度。 苏纳克指出“通过使英国成为安全人工智能领域的全球领导者我们将吸引更多来自这股新技术浪潮的新工作和投资。”【其他部门也收到了这份备忘录内政大臣今天与互联网观察基金会Internet Watch Foundation以及 TikTok 和 Snap 等多家大型消费应用公司共同举办了一场活动以解决人工智能生成的性虐待图片泛滥的问题】。 让大科技公司参与进来似乎在某一方面有所帮助但批评者往往认为这也是一个问题。“监管捕获”即行业中较大的权力参与者采取积极措施来讨论和制定风险和保护措施一直是人工智能美丽新世界的另一个大主题本周的峰会也是如此。 “要警惕那些举起双手说‘管我吧管我吧’的人工智能技术领导者。”人工智能芯片制造商 Graphcore 的首席执行官 Nigel Toon 在自己撰写的一篇关于本周即将召开的峰会的文章中敏锐地指出“政府可能会贸然介入对他们的话信以为真。”不过他本人并不完全是边缘人他将亲自参加此次峰会。 与此同时许多人仍在争论目前所谓的生存风险是否是有用的思考练习。 Stability AI 的公共政策负责人 Ben Brooks 在英国皇家学会的一个小组讨论会上说“我认为过去一年里前沿和人工智能的修辞让我们陷入了对技术感到恐惧的境地”他引用了“回形针最大化”思想实验——人工智能在不考虑人类需求或安全的情况下创造回形针可能会毁灭世界——作为这种有意限制方法的一个例子。“他们没有考虑到在什么情况下可以部署人工智能。但你可以安全地开发它。我们希望每个人都能从中得到启发认识到人工智能是可以实现的而且是可以安全实现的。” 而其他人则不那么肯定。 阿波罗研究公司的 Hobbhahn 说“公平地说我认为生存风险并不准确。”“我们姑且称之为灾难性风险。”从近年来的发展速度来看生成式人工智能应用已经将大型语言模型带入主流应用他认为最大的担忧仍将是使用人工智能的不良行为者而不是人工智能自身的暴动将其用于生物战、国家安全局势以及可能改变民主进程的错误信息。他说所有这些都是他认为人工智能很可能发挥灾难性作用的领域。 “图灵奖获得者在公开场合对生存和灾难性风险忧心忡忡……我们真的应该好好想想。”他补充道。 03 商业前景 虽然存在严重的风险但英国也希望通过举办有关人工智能的大型对话将本国打造成为人工智能企业的天然家园。然而一些分析师认为投资人工智能的道路可能并不像某些人预测的那样平坦。 “我认为现实已经开始显现企业开始明白他们需要为生成式人工智能项目分配多少时间和资金才能获得可靠的产出从而真正提高生产力和收入”Gartner 公司副总裁分析师 Avivah Litan 说。“即使他们对项目进行反复调整和工程设计他们仍然需要人工对操作和产出进行监督。简而言之GenAI 的输出还不够可靠需要大量资源才能使其可靠。当然模型一直在改进但这就是市场的现状。尽管如此与此同时我们也确实看到越来越多的项目进入了生产阶段。” 她认为人工智能投资“肯定会减缓使用人工智能的企业和政府组织的发展速度。供应商正在推动他们的人工智能应用和产品但企业无法像被推动的那样快速采用它们。此外GenAI 应用程序还存在许多风险例如即使在组织内部也能民主化地轻松获取机密信息。” 正如“数字化转型”在现实中更像是一个慢热的概念一样企业的人工智能投资战略也需要更多的时间。“企业需要时间来锁定其结构化和非结构化数据集并正确有效地设置权限。企业中存在太多的过度共享而在此之前这些共享其实并不重要。”Litan 补充说“现在任何人都可以使用简单的母语如英语命令访问任何他人未受到充分保护的文件。” 如何平衡人工智能的商业利益与布莱切利公园将讨论的安全和风险问题是很大的难题这一事实说明了未来的任务同时也凸显了局势的紧张。据报道在会议后期布莱切利的组织者已经努力将讨论范围从高层次的安全问题扩展到风险可能真正出现的领域例如医疗保健领域尽管目前公布的议程中并未详细说明这一转变。 “将有 100 名左右的专家参加圆桌会议规模并不小。我是一个批评家但这听起来并不是一个坏主意”剑桥大学教授 Neff 说。“现在全球监管会成为一个讨论话题吗绝对不会。我们是否要让东西方关系正常化可能也不会。但我们将迎来我们的峰会。我认为此时此刻可能会出现一些非常有趣的机会。” 巴比特园区开放合作啦
