英國(guó)研究人員正在研制一種能與人交流的高智能自動(dòng)化系統(tǒng)。這種系統(tǒng)不是簡(jiǎn)單與人對(duì)話,而能與人討論乃至爭(zhēng)辯,有助于操作者更好地作出決策。這一系統(tǒng)的雛形最快三年問世。
增信任
阿伯丁大學(xué)教授瓦姆博托·瓦斯康塞洛斯說,研制能與人討論乃至辯論的自動(dòng)化系統(tǒng)旨在增加人對(duì)智能技術(shù)的信任。
他說,機(jī)器人之類的自動(dòng)化系統(tǒng)是現(xiàn)代工業(yè)組成部分,無需人守在旁邊就能執(zhí)行任務(wù),應(yīng)用在諸多領(lǐng)域,可以迅速處理大量信息,判斷如何行動(dòng)。不過,自動(dòng)化系統(tǒng)可能在運(yùn)行中出現(xiàn)差錯(cuò),有時(shí)“說不清因?yàn)槿诉€是系統(tǒng)”。
瓦斯康塞洛斯說,如果人不明白某個(gè)自動(dòng)化系統(tǒng)為什么在某個(gè)特定時(shí)間以某種特定方式執(zhí)行某項(xiàng)特定任務(wù),可能會(huì)不信任這個(gè)自動(dòng)化系統(tǒng)。
書面談
機(jī)器人會(huì)說話不稀奇,而高度智能、能與人討論的機(jī)器人仍停留在科學(xué)幻想中。 瓦斯康塞洛斯說:“我們正在創(chuàng)造的是新一代自動(dòng)化系統(tǒng),能與人雙向交流。”
這種系統(tǒng)不“出聲”,以在屏幕上顯示詞句的方式與人交流。典型交流情形是,人問機(jī)器人為什么作出某一決定,是否有其他選擇,為什么沒有采用其他選擇。
這種交流“讓人可以質(zhì)詢或推翻機(jī)器人的決定”。
“你可以在必要時(shí)指揮電腦系統(tǒng)打破或修改規(guī)則,以便更好地利用資源或確保安全,”瓦斯康塞洛斯說。
人機(jī)交流的最終目的是確保機(jī)器作出令人滿意的決定。不過,雙向交流中,當(dāng)人對(duì)機(jī)器給出的所有選擇都不滿意時(shí),機(jī)器可能回答:“抱歉,我能做的就是這些。”
好幫手
會(huì)討論的高智能自動(dòng)化系統(tǒng)有望部署在外星球和深海,或用于執(zhí)行國(guó)防任務(wù),或在核設(shè)施等危險(xiǎn)環(huán)境中作業(yè)。
為防止系統(tǒng)聰明過頭、自行其是,系統(tǒng)研制人員在設(shè)計(jì)過程中注意防止系統(tǒng)作出威脅性、野蠻或敵對(duì)反應(yīng),特意邀請(qǐng)一名心理學(xué)家參與設(shè)計(jì)。
美國(guó)科學(xué)幻想小說作家艾薩克·阿西莫夫認(rèn)為,設(shè)計(jì)高智能機(jī)器人必須遵循若干規(guī)則,最重要的一條就是“機(jī)器人不可以傷害人或坐視人受傷害”。
瓦斯康塞洛斯說,實(shí)現(xiàn)人機(jī)交談后,人擔(dān)負(fù)的責(zé)任更多,出錯(cuò)后不能再簡(jiǎn)單歸咎于機(jī)器。“責(zé)任隨權(quán)力而至。所有這些對(duì)話都會(huì)存檔,出了什么問題能找到責(zé)任方。”(新華網(wǎng))