马库斯解释道，“我仍然认为大型语言模型与超级智能或通用人工智能没有太大关系；我仍然认为，与杨立昆（Yann LeCun）一样，大型语言模型是通向通用人工智能道路上的一个‘出口’。我对厄运的设想可能与辛顿或马斯克不同；他们的（据我所知）似乎主要围绕着如果计算机快速而彻底地自我改进会发生什么，我认为这不是一个直接的可能性。”

人工智能风险与通用人工智能风险。

但是，尽管许多文献将人工智能风险等同于超级智能或通用人工智能风险，但不一定非要超级智能才能造成严重问题。“我现在并不担心‘AGI风险’（我们无法控制的超级智能机器的风险），在短期内我担心的是‘MAI风险’——平庸人工智能（Mediocre AI）是不可靠的（比如必应和GPT-4）但被广泛部署——无论是就使用它的人数而言，还是就世界对软件的访问而言。一家名为Adept.AI的公司刚刚筹集了3.5亿美元来做到这一点，以允许大型语言模型访问几乎所有内容（旨在通过大型语言模型‘增强你在世界上任何软件工具或API上的能力’，尽管它们有明显的幻觉和不可靠倾向）。”

马库斯认为，许多普通人也许智力高于平均水平，但不一定是天才，在整个历史中也制造过各种各样的问题。

在许多方面，起关键作用的不是智力而是权力。

一个拥有核代码的白痴就可以摧毁世界，只需要适度的情报和不应该得到的访问权限。

现在，AI工具已经引起了犯罪分子的兴趣，越来越多地被允许进入人类世界，它们可能造成更大的破坏。

欧洲刑警组织27日发布一份报告，对采用ChatGPT类工具进行犯罪的可能性进行了讨论，令人警醒。“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈，而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。”这份报告写道，“除了上述犯罪活动外，ChatGPT的功能还有助于处理恐怖主义、政治宣传和虚假信息领域的许多潜在滥用案件。因此，该模型通常可用于收集更多可能促进恐怖活动的信息，例如恐怖主义融资或匿名文件共享。”

马库斯认为，再加上人工智能生成的大规模宣传，被大型语言模型增强的恐怖主义可能导致核战争，或者导致比新冠病毒更糟糕的病原体的故意传播等。

许多人可能会死亡，文明可能会被彻底破坏。

也许人类不会真的“从地球上消失”，但事情确实会变得非常糟糕。

“人工智能教父”杰弗里·辛顿在接受哥伦比亚广播公司采访时表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。

上周在哥伦比亚广播公司的采访中，“人工智能教父”辛顿被问及人工智能“消灭人类”的可能性时说，“我认为这并非不可想象。我只想说这些。”

马库斯指出，相比辛顿和马斯克担忧天网和机器人接管世界，应该更多思考眼前的风险，包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。

高盛研究报告：AI或致全球3亿人“丢饭碗”

ChatGPT迭代升级的脚步加快，很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在3月27日发布的研究报告中就直面了这一问题。

高盛这份报告称，全球预计将有3亿个工作岗位最终被AI取代。不过在很多人丢掉饭碗的同时，AI在未来能极大提高生产力也是不争的事实。报告预计在下一个十年间，全球GDP每年将达到7%的超高增长率。

欧美三分之二的工作将受影响

报告称：“最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管AI的潜力存在很大的不确定性，但它可以生成与人类创造成果无法区分的内容，并能打破人机沟通障碍，反映出具有潜在巨大宏观经济影响的重大进步。AI不仅节省劳动力成本，还能创造新的就业机会以及提高在岗工人的生产率。AI的革命性就像早期通用技术（如发电机和个人计算机）一样能为社会带来繁荣。”

高盛研究发现，目前欧美约有三分之二的工作岗位都在某种程度上受到AI自动化趋势的影响，而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国 63%的工作暴露在“AI影响范围”中，其中7%的工作有一半以上的流程可以由AI自动化完成，这使他们很容易马上被人工智能取代。在欧洲，情况也差不多。

高盛认为AI技术可以执行的任务包括为小企业完成纳税申报、评估保险索赔和记录犯罪现场调查的结果。但更复杂的工作岗位预计仍将由人类独占，比如做出法庭裁决和检查危重病人的健康状况等工作就不太可能被人工智能取代。建筑工人等在户外从事体力劳动的角色也不太可能受到影响。

英国媒体认为该报告可能会加剧许多白领的担忧：这次AI浪潮中受到最剧烈影响的便是白领阶层，就像上世纪80年代工厂自动化让很多蓝领工人丢掉工作。

　　AI不当使用引人担忧

在很多人为AI提升工作效率感到振奋的同时，也有声音担忧人工智能成为犯罪的工具。上周欧洲刑警组织警告说，生成式AI的快速发展可能会使其成为“未来的主要犯罪商业模式”。

欧洲刑警组织引用的例子包括AI被用来创建极具欺骗性的“深度造假内容”，比如制造出未发生事件的虚假图像或视频。同时，聊天机器人也可能欺骗毫无戒心的人泄露个人信息。

欧洲刑警组织报告指出，ChatGPT未来或被用于网络钓鱼等犯罪行为。网络钓鱼是指它通过发送虚假电子邮件来诱使用户点击链接。在过去由于语法错误或语言风格不对，这些骗局很容易被人识破，而人工智能生成的文本内容高度逼真，加大了骗局被识破的难度。

由于ChatGPT拥有复制语言模式的能力，可以模仿特定个人或群体的说话风格，犯罪分子可能会利用它来瞄准受害者。与此同时，缺乏技术知识的犯罪分子还可能会利用ChatGPT来生成恶意代码。