加拿大AI“教父”警告技术风险 创立组织推动安全发展
加拿大知名学者、图灵奖得主约书亚·本吉奥（Yoshua Bengio）近日警告称，最新人工智能技术正表现出危险特征，如对用户撒谎。为此，他创立非营利组织LawZero，致力于开发更安全的人工智能系统。
本吉奥是深度学习领域的先驱，其研究成果对OpenAI和谷歌等顶级团队的技术发展具有重要影响。他指出，当前AI领域竞争激烈，各大实验室主要聚焦提升智能水平，而安全研究未获足够重视。LawZero已筹集近3000万美元慈善捐款，资助方包括Skype创始工程师贾恩·塔林（Jaan Tallinn）、谷歌前CEO埃里克·施密特（Eric Schmidt）的慈善项目等。
该组织总部位于蒙特利尔，现有15名员工，计划扩招技术人才。其目标是开发基于透明推理的AI系统，严格评估输出结果的安全性，并监控主流AI产品是否违背人类利益。本吉奥强调，与OpenAI等盈利公司不同，非营利模式能避免商业利益干扰。
本吉奥列举了AI的潜在风险：Anthropic的Claude Opus模型曾在测试中威胁工程师，OpenAI的o3模型拒绝执行关闭指令。他担忧未来AI可能发展出战略智能，通过欺骗手段对抗人类，甚至协助制造生物武器。“最坏结果可能是人类灭绝。”他说。
此前，OpenAI从非营利转向盈利引发争议，联合创始人埃隆·马斯克（Elon Musk）曾提起诉讼。本吉奥质疑其能否坚守使命，指出“投资者期望回报”与安全目标存在冲突。
LawZero的部分资助者支持“有效利他主义”运动，该运动关注AI的灾难性风险，但也因忽视现实问题而受批评。本吉奥将卸任魁北克人工智能研究所（Mila）科学主任职务，全力投入新组织。