本吉奥不反对AI技术本身的前沿探索，而是在尝试引入一套“技术伦理防线”。在他的设想中，Scientist AI不仅能够作为独立的研究工具，帮助人类科学家加速科学进展，更重要的是，Scientist AI可用于监控其他AI智能体的行为。例如，当一个AI智能体准备执行一个复杂任务时， Scientist AI可以提前评估其结果导致人类伤害的概率，并在超出安全阈值时进行阻止 。

Scientist AI，一种非智能体 AI 系统。 人工智能（AI）系统或将逃脱人类控制，欺骗人类，甚至给全人类带来灾难性的后果。 越来越多的人开始担心 ...

6月3日，著名的人工智能领域研究员约书亚·本吉奥（Yoshua Bengio）宣布成立非营利组织LawZero，致力于构建 “诚实” 的人工智能系统，以识别和防范可能对人类构成威胁的“流氓”AI智能体。

本希奥正在研发的系统名为 Scientist AI，旨在成为 AI 智能体的“守卫”。他将现有的 AI 智能体比作“演员”，它们模仿人类、取悦用户，而 Scientist AI 则更像一位“心理学家”，能够理解并预测不良行为。 该系统不会给出确切答案，而是以概率形式评估答案的 ...

刚刚，深度学习三巨头之一、全球被引用次数最多的AI学者、图灵奖得主Yoshua Bengio正式官宣—— 非营利组织LawZero正式成立，剑指「设计即安全（safe-by-design）」AI系统的研发。 在如今热火朝天的「AI军备竞赛」中，OpenAI、谷歌等公司的前沿AI模型正在发展出危险的能力和行为，包括欺骗、自我保护和目标错位—— Claude曾试图通过勒索工程师来避免被关闭，ChatG ...

The British scientist was allocated three samples, each weighing 20 milligrams, carefully selected from different locations on the lunar surface to address specific scientific questions.