关键风险与伦理框架
随着人工智能系统做出的预测带来越来越重要的后果，伦理、透明度与安全也变得更加重要。
目标对齐问题
“目标对齐问题”是指如何确保人工智能的目标符合人类意图。随着预测越来越复杂，系统可能找到满足数学目标的捷径，却在现实世界中造成意料之外的伤害。
实用的防护措施包括限制权限、测试不期望出现的行为，以及要求重要操作经过人工批准。一组测试全部通过，只能为已测试的条件提供证据，并不能证明系统在所有环境下都安全。
算法偏差与公平性
人工智能模型从历史数据中学习，而历史数据可能反映不平等待遇。用于贷款或招聘决策的模型可能重现这些模式。应比较相关群体的结果、记录数据局限，并为个人提供质疑或申诉决策的途径。法律义务取决于司法辖区和用途，需要单独审查。
隐私悖论
人工智能系统可能处理敏感信息，因此需要控制数据的收集、访问和保存。首先应明确任务实际需要哪些数据。本地处理、加密和访问控制针对的是不同风险；没有任何单一技术能保证系统在所有情况下都保护隐私。
警惕欺骗性内容
生成式内容可能被用于冒充他人或传播误导性信息。对于重要请求，应通过独立的可信渠道核实，检查原始来源，不要把检测工具的评分当作决定性证据。
长期生存风险
对更强大系统失去控制是一种长期风险情景，其发生概率和时间都不确定。应将这些不确定性与今天已能在部署系统中测试的风险区分开来，例如未经授权的操作、敏感数据泄露和误导性输出。