AI伦理委员会

AI伦理委员会是DeepMind创始人戴密斯·哈萨比斯在收购谈判中提出的核心条件之一，旨在确保AGI技术不被用于军事或作恶，体现了对技术安全的早期关注。

核心要求

• 独立监督：由外部独立人士组成，监督DeepMind技术的使用。
• 防止滥用：确保技术不被用于军事目的或其他有害用途。
• 治理机制：作为AGI发展过程中的安全护栏。

在收购中的角色

• 交易条件：哈萨比斯坚持成立独立AI伦理委员会，这是Facebook因控制权问题放弃收购的原因之一。
• 谷歌的接受：拉里·佩奇接受了这一条件，展现了谷歌对被收购方文化和愿景的尊重。
• 新模式：开创了科技巨头收购尖端研究机构时保留伦理治理的新模式。

开放性问题

AI伦理委员会在现实中发挥了多大作用？它是否是一个有效的治理机制，还是仅仅是一个公关姿态？这是值得持续关注的问题。