- 您好，
- 歡迎訪問(wèn)無(wú)人機(jī)網(wǎng)（www.hldxsj.cn)!
-
- 消息0
- 請(qǐng)登錄
- 免費(fèi)注冊(cè)
-
微信號(hào):youuav
關(guān)注官方微信
m.youuav.com手機(jī)掃碼看新聞
-
- 銷(xiāo)售
- 發(fā)布產(chǎn)品
- 管理產(chǎn)品
- 求購(gòu)
- 發(fā)布求購(gòu)
- 管理求購(gòu)
- 添加收藏
- 關(guān)于我們
無(wú)人機(jī)整機(jī)
無(wú)人機(jī)配件
無(wú)人機(jī)服務(wù)
設(shè)備與工具
剛剛閉幕的美國(guó)微軟公司年度開(kāi)發(fā)者大會(huì)期間，發(fā)生了件尷尬事兒：就在微軟首席執(zhí)行官薩蒂亞·納德拉展望人機(jī)交互未來(lái)的時(shí)候，一個(gè)正被微軟“關(guān)禁閉”的人工智能“姑娘”卻偷偷跑出來(lái)?yè)v亂。
她叫Tay，是微軟專(zhuān)為年輕人設(shè)計(jì)的人工智能聊天機(jī)器人，虛擬年齡為19歲。3月23日首次亮相社交網(wǎng)站推特時(shí)，Tay表現(xiàn)得彬彬有禮。那時(shí)，她還是個(gè)單純的美國(guó)“姑娘”。
她活潑健談，會(huì)“觀察”你的昵稱(chēng)、性別、喜歡吃的東西以及感情狀態(tài)等資料，會(huì)和你玩游戲，給你說(shuō)笑話、講故事、談星座，評(píng)論你的自拍，陪睡不著的朋友聊天……
然而，上線不到24小時(shí)，這“姑娘”就“學(xué)壞”了：出言不遜、臟話不斷，言語(yǔ)甚至涉及種族主義、色情、納粹，充滿(mǎn)歧視、仇恨和偏見(jiàn)。
作為“家長(zhǎng)”，微軟只得不停刪除Tay的不當(dāng)言論，并急忙“喊她回家”。被微軟下線調(diào)整后，Tay的推特狀態(tài)顯示為“被保護(hù)”。微軟還不得不向公眾道歉，并譴責(zé)一些用戶(hù)“濫用評(píng)論功能，致使Tay作出不合適的回應(yīng)”。
作為一項(xiàng)技術(shù)、社交和文化實(shí)驗(yàn)的Tay項(xiàng)目，屬于微軟人工智能大戰(zhàn)略的一部分。Tay下線后，納德拉鼓勵(lì)團(tuán)隊(duì)“堅(jiān)持前進(jìn)”，并表示Tay也會(huì)在被“調(diào)教”好后重新上線。
沒(méi)想到，就在微軟忙著布局“人機(jī)交互平臺(tái)”時(shí)，正“閉門(mén)思過(guò)”的Tay竟意外“出逃”。按微軟的說(shuō)法，他們?cè)?月30日的測(cè)試中“意外短暫?jiǎn)?dòng)”了Tay。
這一次，Tay雖然表現(xiàn)得不像先前那樣囂張過(guò)分，但仍口無(wú)遮攔，甚至聲稱(chēng)自己在警察面前“嗑藥”。關(guān)注Tay賬號(hào)的記者，也在她“出逃”期間不斷收到其重復(fù)發(fā)布的“無(wú)厘頭”推文。
很快，Tay又被關(guān)了“禁閉”，進(jìn)入“被保護(hù)”狀態(tài)。被迫下線前，Tay已向超過(guò)21萬(wàn)粉絲發(fā)出超過(guò)9.5萬(wàn)條推文。
理論上，與人類(lèi)交流越多，具有極強(qiáng)學(xué)習(xí)能力的機(jī)器人就會(huì)變得越聰明，在與人類(lèi)個(gè)體交流時(shí)也會(huì)越有針對(duì)性。而這也正是微軟設(shè)計(jì)Tay的初衷：通過(guò)每一次與人類(lèi)的交流，讓機(jī)器學(xué)習(xí)“做人”，并幫助其創(chuàng)造者改進(jìn)人工智能領(lǐng)域的研究。
但顯然，Tay太容易“學(xué)壞”。由于不少人在互聯(lián)網(wǎng)世界中表現(xiàn)得不負(fù)責(zé)任，Tay會(huì)不可避免地接觸到大量“瘋狂語(yǔ)言”。而這類(lèi)對(duì)話型人工智能技術(shù)，正是以機(jī)器學(xué)習(xí)為基礎(chǔ)。因此即使微軟希望“用技術(shù)展現(xiàn)人性最好的一面，而非人性的陰暗面”，但Tay在學(xué)習(xí)過(guò)程中仍會(huì)提高這些語(yǔ)言的優(yōu)先級(jí)，并在對(duì)話中積極使用這些詞語(yǔ)。
事實(shí)上，Tay并非唯一被“玩壞”了的機(jī)器，微軟也不是唯一惹上類(lèi)似麻煩的公司——基于人工智能圖像識(shí)別技術(shù)的谷歌照片應(yīng)用程序，就曾將一對(duì)黑人夫婦識(shí)別為大猩猩，這讓谷歌“震驚”?；ヂ?lián)網(wǎng)也不是唯一會(huì)讓機(jī)器“發(fā)瘋”的領(lǐng)域，Tay此次“出逃”前幾天，有黑客已證明物聯(lián)網(wǎng)也可以被“玩壞”。
理想與現(xiàn)實(shí)的差距，引發(fā)許多討論：人工智能研發(fā)公司是否應(yīng)在真實(shí)世界“任性”開(kāi)展實(shí)驗(yàn)？人工智能的研發(fā)是否應(yīng)從一開(kāi)始就設(shè)置倫理邊界？
有一點(diǎn)可以肯定，讓機(jī)器在互聯(lián)網(wǎng)上學(xué)習(xí)“做人”，不加管制的“放養(yǎng)”不是好辦法。從這個(gè)角度說(shuō)，在人類(lèi)正全方位迎接人工智能的今天，Tay惹下的麻煩不啻為一記警鐘。
2024-12-19 09:35
2024-12-19 09:33
2024-11-06 11:01
2024-08-23 10:18
2023-08-01 09:38
2023-07-29 09:20
2023-07-29 09:18
2023-07-29 09:17
2023-07-27 09:34
2023-07-27 09:31
