Elon Musk 等上千名科技专家共同签署「暂缓 AI 开发」公开信件

早先包括 Elon Musk、Apple 联合创办人 Steve Wozniak、UC Berkeley 大学教授 Stuart Russell 等超过一千名人工智能和计算机科学领域的专家，共同签署了一份公开信《Pause Giant AI Experiments: An Open Letter》，呼吁所有人工智能实验室针对比 GPT-4 更强大的 AI 系统暂停至少 6 个月的训练。

这封信是由一群 AI 研究人员撰写，信中提到最近几个月各个人工智能实验室为了开发更强大的人工智能系统，陷入了一场失控的竞赛中，却缺乏相应级别的管理和规划，并强调「只有当我们确信其影响是正面积极的，且风险是可控的，才应该开发强大的人工智能系统」。

接著希望所有 AI 实验室应立即公开暂停比 GPT-4 更强大的 AI 系统至少 6 个月的训练，在这段期间各实验室与专家可以共同研拟和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督，旨在确保遵守协议的系统为安全无虞。

最后指出政府当局应尽快制定相关政策、部门，让人们在享受 AI 带来的便利与繁荣时，同时有著应对不可控制危机的能力。

尽管这封公开信并没有任何法律效力，但获得上千名「重量级」人物的签名连署，想来也能起到警惕世人和推动法规的效果，有兴趣的读者不妨多加留意。