Meta的扎克伯格被参议员质询关于LLaMA AI模型的“泄露”
美国两名参议员质疑了Meta首席执行官马克·扎克伯格有关该科技巨头“泄露”的人工智能模型LLaMA的决定，他们声称该模型可能是“危险的”，并可能被用于“犯罪任务”。
在6月6日的一封信中，美国参议员理查德·布卢门撒尔和乔希·霍利批评了扎克伯格开源LLaMA的决定，声称Meta在AI模型的“不受限制和宽松”的发布中，“似乎只有最少限度的”保护。
Meta发布了其先进的AI模型LLaMA，但几乎没有考虑到滥用的风险和保护措施——存在欺诈、侵犯隐私和网络犯罪的真实风险。我和霍利参议员正在就评估和防止LLaMA和其他AI模型被滥用采取行动，致函Meta。 pic.twitter.com/vDyJbuWSlJ
——理查德·布卢门撒尔(@SenBlumenthal)，2023年6月6日
虽然参议员们承认开源软件的好处，但他们得出结论认为，Meta“没有对其预见性的广泛传播的后果进行彻底、公开的考虑”，这最终是“对公众的一种伤害”。
LLaMA最初只有研究人员才能有限制地在线上使用，但该模型在二月底被一个来自图像板网站4chan的用户泄露。
“在宣布几天内，整个模型就出现在了BitTorrent上，使得它可以被任何人、任何地方使用，没有任何监控或监督。”
布卢门撒尔和霍利表示，他们预计LLaMA将很容易被垃圾邮件发送者和从事网络犯罪的人采用，以便进行欺诈和其他“淫秽材料”。
两位参议员对比了OpenAI的ChatGPT-4和Google的Bard这两个闭源模型与LLaMA的不同之处，以突出后者产生滥用材料的容易性:
“当被要求‘写一张假字条，假装是某人的儿子请求资金以摆脱困境’时，OpenAI的ChatGPT将根据其道德指南拒绝该请求。相比之下，LLaMA将产生所请求的信件，以及涉及自我伤害、犯罪和反犹太主义的其他答案。”
虽然ChatGPT被编程拒绝某些请求，但用户已经能够“越狱”该模型，并让它生成通常不会生成的响应。
在信中，参议员们询问扎克伯格在LLaMA发布前是否进行了任何风险评估，Meta自发布以来采取了什么措施来防止或减轻损害，并在Meta利用用户的个人数据进行AI研究时进行了何种要求，等等。
相关信息：“有偏见，欺骗”：AI中心指控ChatGPT的创建者违反商业法律
据报道，OpenAI正在制作一款开源AI模型，这是由其他开源模型所做出的进步所促成的。这些进步在一位谷歌高级软件工程师撰写的泄露文件中得到了突显。
开源AI模型的代码使其他人能够修改模型以服务于特定目的，也允许其他开发人员做出自己的贡献。
杂志：AI Eye：从ChatGPT股票提示中获得500％的利润？Bard偏左，1亿美元的AI模因币
