极客网·人工智能4月3日 人工智能(AI)是指在机器上模拟人类的智能，这些机器通过编程可以像人类一样思考和行动。AI技术使计算机能够执行通常需要人类智能的任务，例如视觉感知、语音识别、决策和语言翻译。

美国中佛罗里达大学工业工程与管理系统系助理教授Ozlem Garibay领导进行了一项研究，确定了人类必须克服的六大AI挑战，以改善人类与AI的关系，并保证其道德和公平的使用。

Garibay和其他26名科学家共同进行了一项研究，确定了人类必须解决的问题和挑战，以确保AI是可靠、安全以及值得信赖，并符合人类的价值观。

这项研究报告已经发表在《国际人机交互》杂志上。以下是该研究团队确定的人类面临的AI六大挑战：

挑战一：人类福祉

AI应该能够发现有利于人类福祉的实施机会。在与AI交互时，它还应该考虑到支持用户的福祉。

挑战二：负责任

负责任的AI是指在AI生命周期中优先考虑人类和社会福祉的概念。这确保了AI的潜在利益以符合人类价值观和优先事项的方式得到利用，同时也减轻了意外后果或违反道德的风险。

挑战三：隐私保护

应该仔细考虑AI系统中数据的收集、使用和传播，以确保保护个人隐私，防止对个人或群体的有害使用。

挑战四：设计框架

AI系统的以人为本的设计原则应该使用可以为从业者提供明确信息的框架。该框架将区分风险极低的AI、不需要采用特殊措施的AI，风险极高的AI以及禁止使用的AI。

挑战五：治理和监督

需要考虑从概念到开发到部署的AI生命周期的整个治理框架。

挑战六：人类与AI的互动

为了促进人类与AI系统之间的道德和公平的关系，人类与AI之间的互动必须基于尊重人类认知能力的基本原则。具体来说，人类必须对AI系统的行为和结果保持完全的控制和责任。

这项研究历时20多个月的时间，汇集了26位在AI技术领域拥有不同背景的国际专家的观点。

Garibay说：“这些挑战要求创造以人为本的AI技术，优先考虑道德、公平和提高人类福祉。这些挑战敦促采用以人为本的方法，包括负责任的设计、隐私保护、坚持以人为本的设计原则、适当的治理和监督，以及与人类认知能力的相互尊重。”

总的来说，这些挑战呼吁科学界采取行动，开发和实施优先考虑并造福人类的AI技术。

【以上内容转自“极客网”，不代表本网站观点。如需转载请取得极客网许可，如有侵权请联系删除。】

延伸阅读：

• 谷歌开发出AI工具MusicLM，可根据素材生成音乐
• Adobe方面宣布，AI生成图片可在Adobe Stock销售

未经允许不得转载：零时古怪 - 中国第一新闻资讯综合门户 » 科技是把双刃剑，研究表明人类正面临六大AI挑战