Anthropic研究员提议AI“过度矫正”以纠正历史不公

Anthropic公司的一位AI伦理架构师Amanda Askell在最新论文中提出，为了纠正历史上的不公正现象，AI系统可能需要进行“过度矫正”，即在回答问题时有意识地偏向某些群体以消除刻板印象。

这种做法需要人类的介入来调整AI的回答方式。

研究表明，在实验中，AI模型在处理学生种族问题时表现出不同的倾向，但作者认为在某些情况下，对弱势群体有利的“正向歧视”在法律允许范围内可能具有道德上的合理性。

此举引发了关于AI伦理的讨论，也凸显了在训练AI模型时如何平衡人类内容和避免不良行为的挑战。