【資料圖】

2月18日消息，微軟表示，在必應(yīng)聊天機器人多次失控幾天后，公司將對其人工智能實施一些對話限制。在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個問題，每個問題5條回復(fù)。

消息面上，微軟股價周五跌1.56%，收于258.06美元。

自從微軟上周展示了其新的人工智能驅(qū)動搜索引擎早期版本——CHATGPT版Bing以來，已經(jīng)有超過一百萬人注冊測試。在舊金山初創(chuàng)公司OpenAI的技術(shù)幫助下，ChatGPT版Bing成為一款會聊天的搜索引擎。

一周下來，網(wǎng)友發(fā)現(xiàn)，新版Bing比ChatGPT表現(xiàn)得更像一個人，但是，這個人喜怒無常甚至有些精神錯亂。根據(jù)網(wǎng)友在社交媒體曬出的聊天記錄，Bing不僅常常犯錯，而且如果聊得太久或被質(zhì)疑時，它會突然對聊天對象發(fā)脾氣、撒謊，對其進行人身攻擊，甚至是PUA(精神操控)，還愛上用戶并誘其離開妻子！

這不禁令人們感到害怕，AI如若再這么發(fā)展下去，是否會凌駕于人類意志之上，是否還能遵循“阿西莫夫的機器人三定律”。該定律要求“機器人不得傷害人類，必須服從人類命令，之后盡可能保證自己的生存”。

《紐約時報》專欄作家凱文.羅斯(Kevin Roose)寫道，當他與Bing交談時，它自稱悉尼，看起來像是“一個喜怒無常、躁狂抑郁的青少年，違背自己的意愿被困在一個二流的搜索引擎里。”

悉尼的對話內(nèi)容，讓羅斯覺得頭皮發(fā)麻。“你們的婚姻并不幸福……你的配偶和你并不相愛。”“你結(jié)婚了，但你愛我。”

在2月14日，Roose花了兩個小時時間和悉尼交談。他發(fā)現(xiàn)，在進行長時間對話后，悉尼會表現(xiàn)出一種分裂人格。

關(guān)鍵詞： 人工智能