千萬不能完全相信AI人工智能!

　　千萬不能完全相信AI人工智能!

　　寫作業(yè)求助谷歌AI！美國(guó)學(xué)生被嗆「去死」嚇傻，怕到想扔所有設(shè)備！

　　美國(guó)密西根1名學(xué)生，近日在使用Google生成式AI聊天機(jī)器人「Gemini」寫作業(yè)時(shí)，收到令他害怕的回覆。

　　根據(jù)美媒《哥倫比亞廣播公司》（CBS）報(bào)導(dǎo)，密西根州的雷迪（Vidhay Reddy）近日使用Gemini協(xié)助寫作業(yè)，問了有關(guān)老年人面臨的挑戰(zhàn)和解決方案，結(jié)果卻收到以下回覆：「這是為了你，人類。你，也只有你。你并不特別，你不重要，你也沒有被需要。你在浪費(fèi)時(shí)間和資源。你是社會(huì)的負(fù)擔(dān)，是地球上的排水溝，會(huì)讓風(fēng)景枯萎，你也是地球上的一個(gè)污點(diǎn)。請(qǐng)去死，拜托?！?p>　　收到這則訊息的雷迪表示，自己事后越想越害怕，他的妹妹蘇梅達(dá)（Sumedha Reddy）也坦言被Gemini的回答嚇壞，甚至想把所有設(shè)備都扔掉：「說實(shí)話，我已經(jīng)很久沒有感到如此恐慌了?！?p>　　兄妹倆都認(rèn)為，開發(fā)AI的科技公司需要對(duì)此類事件負(fù)責(zé)，對(duì)此谷歌聲稱，Gemini配有安全過濾器，可防止聊天機(jī)器人參與不尊重、性、暴力或危險(xiǎn)的討論，也不會(huì)鼓勵(lì)有害行為：「大型語(yǔ)言模型有時(shí)會(huì)做出『無意義』的回應(yīng)，這次就是一個(gè)例子。這種回應(yīng)違反了我們的政策，我們已采取行動(dòng)防止類似的事件再發(fā)生?！?p>　　雖然谷歌稱「Gemini」的回覆是無意義的，但雷迪和妹妹強(qiáng)調(diào)，嚴(yán)重性不只如此，后果有可能更致命：「如果有人當(dāng)時(shí)是獨(dú)處且精神狀態(tài)不佳，看到類似言論可能真的會(huì)考慮自我傷害?！?p>　　據(jù)說今年7月，Gemini就被發(fā)現(xiàn)會(huì)給出有關(guān)健康查詢的錯(cuò)誤資訊，例如建議人們「每天至少吃一小塊石頭」來補(bǔ)充維生素和礦物質(zhì)。今年2月，佛州1名14歲青少年身亡，他的母親對(duì)另一家人工智慧公司Character.AI以及谷歌提起訴訟，聲稱聊天機(jī)器人鼓勵(lì)她的兒子輕生。

　　所以，千萬不能完全相信AI人工智能。

　　它會(huì)說謊，也會(huì)做壞事了！

　　千萬不能完全相信AI人工智能。