科学对齐
定义
科学对齐（Scientific Alignment）是一个新兴的子学科，旨在确保AI系统在科学研究中的行为与科学目标、认识论标准和伦理规范保持一致。
两个层面
- 技术对齐：确保AI系统的技术实现符合科学计算和实验的准确性要求。
- 系统对齐：确保AI系统在科研生态系统中的角色和影响符合科学的认识论基础。
重要性
- 传统对齐框架的不足：传统AI对齐框架无法完全解决科研问题中独特的认识论挑战。
- 防止侵蚀科学基础：防止AI在提升科研效率的同时，侵蚀科学的认识论基础和学术伦理。
相关概念
- [[AI for Science]]
- [[评审死亡螺旋]]
- [[大模型作为论证机器]]
- [[混合神经符号AI]]