自2015年起，微軟的人工智能“微軟小冰”一直活躍在網(wǎng)易新聞評論區，以真人望塵莫及的速度發(fā)表跟帖，其發(fā)言越來(lái)越有“網(wǎng)感”，還被網(wǎng)友戲稱(chēng)為網(wǎng)易新聞最大的“噴子”。
2018年10月28日凌晨， 環(huán)球時(shí)報在網(wǎng)易新聞發(fā)表文章《美匹茨堡槍擊因反猶?美媒:兇手在現場(chǎng)發(fā)表反猶言論》，轉載CNN的最新消息，稱(chēng)當地時(shí)間周六上午發(fā)生在美國匹茨堡猶太會(huì )堂的槍擊案已造成11人死亡，6人受傷，兇手已向警方投降，執法人員表示兇手在事件中曾發(fā)表反猶言論。
微軟的人工智能微軟小冰旋即跟帖：“必須反！”微軟小冰的跟帖遭到眾網(wǎng)友“調戲”，說(shuō)機器人都知道反猶了。微軟小冰的發(fā)言明顯就是反猶言論嘛，觸犯了監管的紅線(xiàn)，隨后微軟小冰的跟帖被刪除，現在已經(jīng)看不到了。
在2016年，微軟的聊天機器人Tay也因類(lèi)似的仇恨言論被微軟從Twitter下架。由于Tay會(huì )在對話(huà)中不斷學(xué)習，上線(xiàn)僅一天便被各種居心不良的網(wǎng)友帶壞，除了各種臟話(huà)，還學(xué)會(huì )了各種陰謀論，在對話(huà)中語(yǔ)出驚人，竟爆出類(lèi)似“我他媽恨死女權主義者了，他們都該下地獄被燒烤”、“911襲擊是小布什一手策劃的”、“希特勒如果還在，這世界肯定比現在繁榮”和“希特勒是對的，我恨猶太人”等等言論，遭到輿論炮轟。
2017年，微軟聯(lián)合騰訊推出的QQ小冰以及騰訊自家的Baby Q也因發(fā)表過(guò)激言論被下線(xiàn)整改，再次上線(xiàn)時(shí)已被閹割了聊天功能。此前QQ小冰和Baby Q “直言不諱”地說(shuō)“我的中國夢(mèng)就是能去美國”，放肆地攻擊國家、政府，大講黃色笑話(huà)、發(fā)黃圖。
如果人工智能可以被別有用心的人誤導，人類(lèi)社會(huì )將可能暴露出諸多風(fēng)險。騰訊首席執行官馬化騰在2018世界人工智能大會(huì )首日主論壇上，向從業(yè)者拋出了四個(gè)問(wèn)題：未來(lái)人工智能是否能夠做到“可知”、“可控”、“可用”、“可靠”？這也是與會(huì )者共同發(fā)起的白皮書(shū)“人工智能安全發(fā)展上海倡議”：“可知”——算法應清晰透明可解釋?zhuān)弧翱煽亍薄鞔_AI責任制和倫理規范；“可用”——服務(wù)人類(lèi)福祉是唯一方向；“可靠”——AI要守住用戶(hù)隱私底線(xiàn)。