科技

突然宣布ChatGPT打响人类保卫战第一枪

中国基金报 泰勒

意大利打响了人类保卫战的第一枪?

意大利:即日起禁止使用ChatGPT

就在刚刚,意大利出手打击全世界最火的人工智能ChatGPT!

据意大利数据保护局(DPA)最新发布的消息,从即日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

个人数据保护局认为,3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知,缺乏大量收集和存储个人信息的法律依据。

意大利数据保护局宣布,OpenAI公司必须在20天内通过其在欧洲的代表,向意大利个人数据保护局通报公司执行保护局要求而采取的措施,否则将被处以最高2000万欧元(差不多是1.55亿人民币)或公司全球年营业额4%的罚款。

而不久前,包括马斯克在内,多位科技公司高管和AI研究人员正呼吁暂停对强大的新AI工具的快速开发。

这些人士表示,六个月或更长时间的暂停,将使该行业有时间制定AI设计方面的安全标准,从而防止风险最高的一些AI技术的潜在危害。

据生命未来研究所官网,3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。

信中写道“只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧,认为人工智能是未来人类文明最大的风险之一,威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。

马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。

该公开信也呼吁,AI实验室和独立学者应针对高级AI的设计和开发共同制定实施一套共享安全协议,确保AI的安全性。

与此同时,AI开发人员必须与决策者合作,大力推进强有力的AI治理系统的发展,包括:针对AI的新型监管机构;对高级AI系统的监督追踪和大型算力池;帮助区分真实数据与AI生成的数据、并且追踪模型泄漏的溯源和水印系统等。

信的末尾提及,人类可以和AI共创繁荣未来,只不过要做好准备:“让我们享受AI的‘长夏’,而不是毫无准备地进入‘秋天’。”

OpenAI的管理人员说他们还没有开始训练GPT-5。OpenAI首席执行官Sam Altman在接受采访时表示,公司长期以来在开发时将安全作为重点,并在GPT-4发布前花了六个多月的时间对其进行安全测试。

“从某种意义上说,这是多此一举,”Altman说。“我认为,一直以来我们对这些问题的讨论是声音最响、力度最大且持续时间最长的。”