ChatGPT之父吁政府为AI制定安全标准


美国国会16日举行AI主题听证会,被称作ChatGPT之父、OpenAI首席执行官山姆·奥特曼(Sam Altman)首次赴国会听证,并呼吁政府为AI系统制定安全标准,提出“政府的监管干预至关重要”。
奥特曼坦言,OpenAI这样的科技公司,应该在推出AI工具方面负有很大责任,但同时他也认为,AI工具的使用者同样需要对自己的行为负责。 “要清楚GPT-4是一种工具,而且是可以被人类很好地控制的工具,而不是一种生物,这一点很重要。”
“我们认为政府的监管干预对于减轻日益强大的模型风险至关重要。”奥特曼说:“例如,对开发和发布超过能力门槛的AI模型,美国政府可以考虑把实施许可和测试要求结合起来。”
出庭作证的还有IBM的首席隐私和信任官克里斯蒂娜·蒙哥马利(Christina Montgomery)和著名AI专家加里·马库斯(Gary Marcus)。马库斯指出,美国政府可能需要一个拥有技术专长的“内阁级组织”专门监督人工智能。
虽然奥特曼强调人工智能的好处,但他在听证会上表示,OpenAI“非常担心”选举受到人工智能生成的内容影响。“鉴于我们明年将面临选举,而这些模型正在变得更好,我认为这是一个值得关注的重要领域……我确实认为在这个话题上进行一些监管是非常明智的。”