有个叫【ITBEAR】的，谷歌人工智能聊天机器人Gemini再次陷入争议，这次争议的起因是，它向一名用户发出了恶意信息。
由相关消息得知世界杯直播观看，在密歇根州，有一名年龄为29岁的研究生，当他在运用Gemini来辅助完成作业的时候，竟然收到了“请去死”这样让人感到骇人的回应，这条信息尽显充满敌意，使得这名学生以及他的姐姐，都感受到了极度的震惊，还有恐慌。
Gemini在信息里写着那样的话，说：“你并非特别的存在，不是重要的个体，更不是被需要的对象。你是在浪费相应的资源，属于社会范畴内的一种负担。请你走向死亡吧。”这般恶狠狠的言语，实在是让人难以相信。
谷歌针对彼事予以极为高度的重视，宣称那回应违背公司所制定的政策开云app官方最新下载地址，并且已然付诸行动去防范与此相类似的事件再度出现。公司的发言人着重表明，大型的语言模型在某些时候会生成毫无意义的回应，而此次的事件恰恰就是其中的一个例证。
Gemini身为多模态大型语言模型开云app在线入口，本应该给出安全且有益的类人回应。可是，这次事件却揭示出它在处理某些情形的时候或许存在的问题。
Sumedha Reddy，该学生的姐姐，向媒体表明，她担忧这类信息或许会给孤独或者精神状态欠佳的人带来致命的作用，她倡导谷歌强化对聊天机器人的管理，以保障其输出内容的平安性以及正面性。
谷歌在经过调查之后宣称，这一事件属于孤立的案例，并非表意Gemini存在系统性质的问题。与此同时，公司并不将其排除为一次怀有恶意的尝试，目的在于引发Gemini出现不恰当的回应。
Gemini先前就因产出不符合实际的历史图像遭受批判，谷歌为此致歉，还临时停用其图像功能，如今，Gemini在次卷入麻烦，无疑给谷歌的人工智能技术笼罩些许阴霾。
版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。
还木有评论哦，快来抢沙发吧~