近日，人工智能創(chuàng)造自己的語言并進(jìn)行交流引發(fā)了世界關(guān)注。其實(shí)，相對于此，人工智能的武器化、以及控制和發(fā)展才是更值得我們擔(dān)心的。
在過去的幾周里，你可能看到過你的Facebook好友分享過這樣一篇文章，內(nèi)容是關(guān)于一對由人工智能驅(qū)動的Facebook聊天機(jī)器人是如何偏離他們最初設(shè)定的程序，并發(fā)明自己的語言的。
關(guān)鍵是：Facebook創(chuàng)建了兩個人工智能聊天程序，可以相互交談(并互相學(xué)習(xí))，最終他們停止了用英語交流，并開始用一種非英語的語言進(jìn)行交流，這些語言是它們自己“發(fā)明的”。
新聞頭版紛紛報道了這一事件，從奪人眼球的噱頭到抽絲剝繭的分析，如每日電訊報的“聊天機(jī)器人發(fā)明新語言進(jìn)行溝通Facebook被迫選擇關(guān)閉”，讓人聽起來像是這些聊天機(jī)器人正在密謀反抗人類，或是對人類構(gòu)成威脅。隨便看看這些新聞底下的評論，你就會發(fā)現(xiàn)大家的反應(yīng)有恐懼、興奮甚至高興，有人說道“這一天終于來了”或引用其他艾薩克·阿西莫夫小說中的語句。
但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來，人工智能一直在“發(fā)明”新的溝通方式，所以這其實(shí)算不上新聞。此外，他還解釋說，與新聞標(biāo)題相反的是，這個實(shí)驗(yàn)并沒有被關(guān)閉，只是為了調(diào)整語言交流而改變了。
此外，公司也沒有試圖隱瞞實(shí)驗(yàn)細(xì)節(jié)。所有的一切都是公開的，所有的細(xì)節(jié)都可以在GitHub上查到，允許其他程序員復(fù)制這個場景。
底線是：在人工智能方面，新的人工智能語言不該是我們擔(dān)心的問題。
下面才是我們應(yīng)該擔(dān)心的事情
像埃隆·馬斯克和比爾·蓋茨這樣的有技術(shù)頭腦的人已經(jīng)貢獻(xiàn)了大量的時間和金錢，來解釋人工智能是一種威脅，并尋找新的方法提高其道德水平。
這些才是我們應(yīng)該關(guān)注的主要領(lǐng)域：
武器：
武器軍用無人機(jī)已經(jīng)投入使用，自動化武器被認(rèn)為是第三次戰(zhàn)爭革命。自動化的智能武器讓更少的士兵受到傷害，而且遠(yuǎn)比戰(zhàn)斗機(jī)或核材料等先進(jìn)技術(shù)便宜。例如，當(dāng)前的“收割者”無人機(jī)價格約為1300萬美元，而一架戰(zhàn)斗機(jī)的價格為1億美元。在未來，它們將變得更加廉價，而且不受監(jiān)管(也意味著極其強(qiáng)大)的移動武器也將更加便宜，任何人都可以通過編程來殺死和摧毀對方(除非我們主動采取安全措施)。
控制：
控制也許最重要的不是人工智能本身，而是誰在控制它。我們正在應(yīng)對的是那些有能力重塑世界的力量，如果它們被貪婪的公司、渴求能源的國家、甚至是善意的個人所壟斷，這些人根本不知道自己在做什么，那么這項(xiàng)技術(shù)很容易被濫用或誤用。這就是為什么硅谷的一些影響者和人工智能研究人員聚集在一起，成立OpenAI，這是一項(xiàng)讓全世界都能使用人工智能的倡議，而不僅僅是一群特別的人。這一舉措并不“便宜”，據(jù)報道，該項(xiàng)目一位頂尖的人工智能研究人員的報價是其市場價值的兩到三倍。
發(fā)展：
人工智能的另一個問題是在不受參數(shù)控制的情況下，人工智能的發(fā)展速度。通用人工智能(AGI)具有指數(shù)級的成長能力，因?yàn)樗鼘晕姨嵘?，并且在某一時刻會超過其創(chuàng)造者的智力。農(nóng)業(yè)時代延續(xù)了幾千年，工業(yè)時代延續(xù)了數(shù)百年，信息時代持續(xù)了幾十年，如今人工智能時代僅開始數(shù)年;技術(shù)的增長持續(xù)加速而不是直線發(fā)展，而現(xiàn)在，任何進(jìn)一步的加速都會讓我們毫無準(zhǔn)備地應(yīng)對后果(如果我們采取被動的態(tài)度，而不是積極的姿態(tài))。我們還沒能創(chuàng)造出超級智能，但我們已經(jīng)掌握了處理能力——中國的天河2號每秒能計算34千萬億次計算(cps)，遠(yuǎn)超人類大腦(10千萬億秒)。
如果我們想要負(fù)責(zé)任地運(yùn)用這種計算能力，我們需要有一個基礎(chǔ)來應(yīng)對它無限制的發(fā)展。這意味著要理解人工智能發(fā)展的倫理道德，如何限制它的使用，以及在出現(xiàn)問題時采用適當(dāng)?shù)姆雷o(hù)措施。
關(guān)于人工智能如何被使用以及未來如何發(fā)展，目前存在一些嚴(yán)重的擔(dān)憂。然而，過度地將被測試的系統(tǒng)個人化，或者被標(biāo)題誤導(dǎo)我們的觀點(diǎn)是不負(fù)責(zé)任的。聊天機(jī)器人發(fā)明一種新語言并不是威脅，它是順其自然的，還有其他更重要的事值得我們的注意。
