日本在线www-日本在线播放一区-日本在线不卡免费视频一区-日本在线不卡视频-成人影院久久久久久影院-成人影院一区二区三区

ABB
關注中國自動化產業發展的先行者!
CAIAC 2025
2025工業安全大會
OICT公益講堂
當前位置:首頁 >> 資訊 >> 行業資訊

資訊頻道

人工智能“雙刃劍”:驚喜與危險的并存
  • 點擊數:1621     發布時間:2021-03-18 12:26:00
  • 分享到:
 使用人工智能的算法正在嘗試以意想不到的技巧來解決問題,這讓它們的開發者感到驚訝。但與此同時,這也引發了人們對如何控制人工智能的擔憂。
關鍵詞:

使用人工智能的算法正在嘗試以意想不到的技巧來解決問題,這讓它們的開發者感到驚訝。但與此同時,這也引發了人們對如何控制人工智能的擔憂。

谷歌公司的一群員工正茫然地盯著自己的電腦屏幕。幾個月來,他們一直在完善一個算法,用來控制一個無人熱氣球從波多黎各一直飛到秘魯。但還是有些地方不盡如人意,氣球在機器智能的控制下不斷偏離既定路線。 

Loon項目(Project Loon)是谷歌公司現在已經停止的一個項目,它原本的目標旨在通過氣球將互聯網接入偏遠地區。作為該項目的負責人,塞爾瓦托·坎迪多無法解釋這個氣球的軌跡。最后,他的同事們手動控制了系統,讓氣球回到了正軌。

后來他們才意識到發生了什么。令人意想不到的是,氣球上的人工智能學會了重現人類在幾百年,甚至幾千年前發明的古老航海技術,例如“改變航向”,這指的是操縱船只迎風航行,然后再向外傾斜,從而在大致方向上以之字形前進。

在不利的天氣條件下,自主飛行的氣球已經學會了完全靠自己來改變航向。它們自發地完成了這一過程,讓所有人都感到震驚,尤其是參與這個項目的研究人員。

“當第一個被允許完全執行這種技術的氣球創造了從波多黎各到秘魯的飛行時間記錄時,我們馬上意識到自己被打敗了,”坎迪多在一篇關于該項目的博客文章中寫道,“我從來沒有像這樣,同時感到自己既聰明又愚蠢。”

富有創造力的人工智能

當人工智能在設備中被放任自流時,很可能就會發生這樣的事情。與傳統的計算機程序不同,人工智能的設計目的就是探索和開發新的方法,以完成人類工程師沒有明確告訴它們的任務。

然而,在學習如何完成這些任務的同時,人工智能有時會想出一種極富創造力的方法,甚至會讓一直使用這種系統的人大吃一驚。這可能是一件好事,但同時也可能使人工智能控制的一切變得不可預測,甚至可能帶來危險。例如,機器人和自動駕駛汽車最終可能做出將人類置于危險境地的決定。

人工智能系統怎么可能“智勝”它的人類主人呢?我們能否以某種方式約束機器智能,以確保不致某些不可預見的災難?

在人工智能研究界,有一個關于人工智能創造力的例子似乎被引用得最多。真正讓人們對人工智能的能力感到興奮的時刻,是DeepMind的人工智能機器學習系統AlphaGo如何掌握圍棋這一古老的游戲,然后擊敗了世界上最優秀的人類棋手之一。DeepMind是一家創立于2010年的人工智能公司,在2014年被谷歌收購。

事實證明,它們可以用一些以往從未有人用過——或者至少很多人不知道——的新策略或新技巧,來對付人類棋手。

然而,即使是這樣一場單純的圍棋游戲,也會引起人們不同的感受。一方面,DeepMind自豪地描述了其系統AlphaGo的“創新”之處,并揭示了圍棋,這一人類已經玩了數千年的游戲的新玩法。另一方面,一些人質疑如此有創造性的人工智能有朝一日是否會對人類構成嚴重威脅。

在AlphaGo取得歷史性勝利后,澳大利亞西悉尼大學的機器學習、電子學和神經科學研究者喬納森?塔普森寫道:“認為我們能夠預測或管理人工智能最壞的行為是很可笑的,我們實際上無法想象它們可能的行為。”

我們需要記住的重要一點是,人工智能并不真正像人類那樣思考。它們的神經網絡確實是受到了動物大腦的啟發,但更確切地說,它們是所謂的“探索設備”。當它們試圖解決一個任務或問題時,并不會帶有很多(如果有的話)對更廣闊世界的先入之見。它們只是嘗試——有時是數百萬次——去找到一個解決方案。

我們人類有很多思想上的包袱,我們會考慮規則,人工智能系統甚至不理解規則,因此它們可以隨意地撥弄事物。

在這種情況下,人工智能可以被描述為具有“學者癥候群”的硅等量物。所謂學者癥候群,通常是指一個人有嚴重的精神障礙,但卻在某種藝術或學術上擁有非凡的能力,其天賦通常與記憶有關。

不斷帶給我們驚奇

人工智能讓我們感到驚奇的方式之一,是它們能夠使用相同的基本系統來解決根本不同的問題。最近,一款機器學習工具就被要求執行一項非常不同的功能:下國際象棋。

該系統被稱為“GPT-2”,由非營利的人工智能研究組織OpenAI開發。GPT-2利用數以百萬計的在線新聞文章和網頁信息進行訓練,可以根據句子中前面的單詞預測下一個單詞。開發者肖恩·普萊瑟認為,國際象棋的走法可以用字母和數字的組合來表示,因此如果根據國際象棋比賽的記錄來訓練算法,這一工具就可以通過計算理想的走法序列來學習如何下棋。

普萊瑟對GPT-2系統進行了240萬場國際象棋比賽的訓練。“看到象棋引擎變成現實真是太酷了,”他說,“我當時根本不確定這能不能行得通。”但GPT-2做到了。盡管它的水平還比不上專門設計的國際象棋計算機,但已經能夠成功地完成艱苦的比賽。

這個實驗表明GPT-2系統具有許多尚待探索的能力,堪稱一個具有國際象棋天賦的專家。該軟件后來的一個版本讓網頁設計人員大為震驚,當時,一位開發人員對其進行了簡單的訓練,讓它寫出用于在網頁上顯示項目(如文本和按鈕)的代碼。盡管只有一些簡單的描述,如“表示‘我愛你’的紅色文本和帶有‘ok’的按鈕”,但這個人工智能依然生成了適當的代碼。很顯然,它已經掌握了網頁設計的基本要領,但所受的訓練卻少得驚人。

長期以來,人工智能給人們留下的深刻印象主要來自電子游戲領域。在人工智能研究界,有無數例子揭示了算法在虛擬環境中所做到的事情有多么令人驚訝。研究者經常在諸如電子游戲等空間中對算法進行測試和磨練,以了解它們到底有多強大。

2019年,OpenAI因為一段視頻登上了新聞頭條。視頻中,一個由機器學習控制的角色正在玩捉迷藏游戲。令研究人員驚訝的是,游戲中的“尋找者”最終發現,它們可以跳到物品上方進行“沖浪”,從而進入“躲藏者”所在的圍欄。換言之,“尋找者”學會了為了自己的利益而改變游戲規則。

反復試錯的策略會帶來各種有趣的行為,但并不總能帶來成功。兩年前,DeepMind的研究員維多利亞·克拉科夫娜邀請她博客的讀者分享人工智能解決棘手問題的故事,但要求解決問題的方式是不可預測或不可接受的。

她整理出了一長串很吸引人的例子。其中有一個游戲算法,在第1關結束時學會了自殺,以避免在第2關死亡,這就實現了在第2個關卡中不死的目標,只不過采用了一種特別令人印象深刻的方式。另一個算法發現,它可以在游戲中跳下懸崖,并將對手帶向毀滅;通過這種方式,人工智能得到了足夠的點數以獲得額外的生命,從而在無限循環中不斷重復這種自殺策略。

紐約大學坦登工程學院的電子游戲人工智能研究者朱利安·托格里烏斯試圖解釋這其中發生的一切。他表示,這些都是“獎勵分配”錯誤的典型例子。當人工智能被要求完成某件事時,它可能會找到一些奇怪的、出乎意料的方法來實現目標,并最終證明這些方法是正確的。人類很少采取這樣的策略,指導我們如何游戲的方法和規則十分重要。

研究人員發現,當人工智能系統在特殊條件下接受測試時,這種目標導向的偏見會暴露出來。在最近的一項實驗中,被要求在銀行進行投資的游戲人工智能角色會跑到虛擬銀行大廳附近的一個角落,等待獲得投資回報,這個算法已經學會了將跑到拐角處與獲得金錢回報聯系起來,盡管這種運動與得到多少回報之間并沒有實際的關系。

這有點像人工智能在發展迷信,在得到了某種獎勵或懲罰之后,它們開始思考為什么會得到這些。

這是“強化學習”的陷阱之一。所謂“強化學習”,是指人工智能最終會根據它在環境中遇到的情況設計出判斷錯誤的策略。人工智能不知道自己為什么會成功,它只能將自己的行動建立習得聯想的基礎上。這有點像人類文化早期階段時,將祈禱儀式與天氣變化聯系起來的行為。

一個有趣的例子是,鴿子也會出現這樣的行為。1948年,一位美國心理學家發表了一篇論文,描述了一個不尋常的實驗:他將鴿子放在圍欄里,間歇性地給予食物獎勵。這些鴿子開始將食物與它們當時正在做的事情聯系起來,有時是拍打翅膀,有時是舞蹈般的動作。然后,它們會重復這些行為,似乎期待著獎勵會隨之而來。 

鴿子可以學會將食物與某些行為聯系起來,而人工智能會表現出類似的耦聯行為鴿子可以學會將食物與某些行為聯系起來,而人工智能會表現出類似的耦聯行為

用新辦法解決老問題

測試的游戲人工智能與心理學家所使用的活體動物之間有著巨大的差異,但其中起作用的似乎是相同的基本機制,即獎勵與特定行為錯誤地聯系在一起。

人工智能研究者可能會對機器學習系統所選擇的路徑感到驚訝,但這并不意味著他們對機器學習系統感到敬畏。DeepMind的深度學習研究科學家拉亞?哈德賽爾表示:“我從不覺得這些人工智能有自己的想法。”

哈德賽爾對許多人工智能系統進行了試驗,發現它們能對她或她同事未曾預料的問題提出有趣和新穎的解決方案,這正是研究人員應該致力于增強人工智能的原因,因為這樣,它們就可以完成人類自己無法完成的事情。

使用人工智能的產品,比如自動駕駛汽車,可以經過嚴格測試,以確保任何不可預測性都在一定的可接受范圍內。在這一點上,只有時間才能證明所有銷售人工智能產品的公司是否都如此小心謹慎。但與此同時,值得注意的是,人工智能表現出的意外行為絕不僅僅局限于研究環境,而是已經進入了商業產品領域。

2020年,在德國柏林的一家工廠里,由美國強化學習機器人技術公司Covariant開發的一款機器人手臂在物品經過傳送帶時,展現出了意想不到的分類方法。盡管沒有專門的程序,但控制手臂的人工智能學會了瞄準透明包裝的物品中心,以確保其每次都能成功地將物品抓起來。由于這些物品是透明的,在重疊時可能會混在一起,因此瞄準不精確意味著機器人可能無法抓起物品。但人工智能學會了避免物體的重疊角,而是瞄準了最容易拾取的表面。這真的讓人很吃驚。

無獨有偶,研究團隊最近試驗了一款機器人手臂,可以通過形狀分類孔洞來選取不同的物品。一開始機器人的手臂很笨拙,在人工智能的控制下,它通過不斷地拿起和放下物品進行學習;最終,機器人可以在物品進入正確位置時將其抓住,并將物品很容易地放入適當的孔洞,而不是試圖用鉗子擺弄它。

所有這些都印證了OpenAI研究管理者杰夫·克倫的觀點,即人工智能的探索性是其未來成功的基礎。近年來,克倫一直在與世界各地的同行合作,收集人工智能以出人意料的方式開發出問題解決方案的例子。

克倫說:“隨著我們不斷擴展這些人工智能系統的規模,可以看到,它們正在做著一些富有創造性且令人印象深刻的事情,而不只是表現出學術上的好奇心。”

如果人工智能系統能找到更好的方法來診斷疾病,或者向有需要的人群運送緊急物資,它們就可以挽救更多的生命。克倫補充道,人工智能有能力找到解決老問題的新方法。但他也認為,開發這類系統的人需要對其不可預測的本質保持開放和誠實,以幫助公眾了解人工智能的工作機制。

畢竟,這是一把雙刃劍。人工智能的承諾和威脅一直同時存在,它們接下來會想到什么?這是耐人尋味的問題。

來源:新浪科技

熱點新聞

推薦產品

x
  • 在線反饋
1.我有以下需求:



2.詳細的需求:
姓名:
單位:
電話:
郵件:
主站蜘蛛池模板: 午夜成人影视-午夜成人影片-午夜成人免费影院-午夜不卡影院-国产日本欧美亚洲精品视-国产日本欧美高清免费区 | 欧洲亚洲综合,亚洲欧美综合视频,国产视频分类,欧美亚洲综合在线,亚洲另类第一页,91在线观 | 五月婷婷激情在线,国产一及毛片,青青热久久国产久精品,激情网站免费,欧美精品三区,97国产影院 | 7788理论片在线观看-7788av-777午夜精品免费播放-777奇米影视一区二区三区-蜜桃传媒在线-蜜桃成熟时1997在线看免费看 | 麻豆系列国产剧在线观看-麻豆系列 在线视频-麻豆午夜视频-麻豆污视频-麻豆网站在线免费观看-麻豆网站在线看 | 午夜成人影视-午夜成人影片-午夜成人免费影院-午夜不卡影院-国产日本欧美亚洲精品视-国产日本欧美高清免费区 | 99这里只有精品6-99这里只有精品-99在线在线视频免费视频观看-99在线小视频-97ai蜜桃小说及图片-97ai蜜桃图片区 | 一区二区国产精品-一区二区高清在线观看-一区二区高清在线-一区二区成人国产精品-九九视频精品全部免费播放-九九视频国产 | 亚洲日本中文字幕在线-亚洲日本中文字幕区-亚洲日本中文字幕-亚洲日本中文-免费jizz在在线播放国产-免费jizz在线播放视频 | 五月天婷婷视频,九九爱这里只有精品,热和尚三区四区,善良的嫂子3在线播放,久久久久久久久久久久久久,热er99久久6国产精品免费 | 美日韩在线观看-美日韩在线-美女网站色在线观看-美女网站色免费-亚洲综合偷自成人网第页-亚洲综合天堂网 | 国产福利自产拍在线观看-国产福利资源网在线观看-国产福利资源-国产福利专区精品视频-双性少爷受糙汉攻h-双性肉文高h | 与子敌伦刺激对白亂輪亂性-与嫂子同居的日子在线观看-与邻居换娶妻子2在线观看-瑜伽牲交AV-久久久96-久久久91精品国产一区二区 | 国产精品jlzz视频-国产精品jizz在线观看直播-国产精品jizz在线观看网站-国产精品jizz在线观看软件-日日爽夜夜操-日日爽天天干 | 六月婷婷国产精品综合-六六影院午夜伦理-六级黄色片-六度影院最新-最近的2019中文字幕国语完整版-最近的2019中文字幕国语版 | 99久久中文字幕,五月天激激婷婷大综合丁香,欧美老女人性视频,精品午夜一区二区三区在线观看,99成人免费视频,2020国产精品永久在线观看 | 久久道-久久大香伊蕉在人线国产昨爱-久久大香香蕉国产免费网站-久久大-天天做天天爽天天谢-天天做天天射 | 2018天天干天天射-2018天天干天天操-2018天天操夜夜操-2018天堂网-2018生活片性色生活片-2018精品国产一区二区 | kedou.xxx-lutube成人福利在线观看-luxu259在线中文字幕-m3u8久久国产精品影院-meisa hanai-mimiai最新网址 | 国产精品高潮呻吟AV久久-国产精品高潮呻吟AV久久床戏-国产精品高潮呻吟AV久久动漫-国产精品高潮呻吟AV久久黄-国产精品高潮呻吟AV久久无码-国产精品高潮呻吟爱久久AV无码 | 亚洲第一视频网,久久91精品国产99久久yfo,国产精品一区二区三区免费,成人欧美一区二区三区黑人,在线观看国产精品入口,亚洲人一区 | 北条麻妃在线观看,国产播放器一区,日本丶国产丶欧美色综合,亚洲一区二区三区高清,九九九国产,亚洲欧美久久精品一区 | 国产成人精品一区二区视频免费-国产成人精品一区二区视频-国产成人精品一区二区三在线观看-国产成人精品一区二区三在-国产成人精品一区二区三区小说-国产成人精品一区二区三区无码 | 黄色在线免费播放-黄色在线免费-黄色在线看网站-黄色在线观看网站-色综合小说天天综合网-色综合小说久久综合图片 | 日皮影院,一区二区三区高清不卡,国产日韩欧美中文字幕,日韩亚洲欧美一区二区三区,国产三级91,国产精品hd免费观看 | 99久热-99久久综合九九亚洲-99久久综合精品国产-99久久综合狠狠综合久久-99久久综合国产精品免费-99久久综合给久久精品 | 欧美成人国产一区二区-欧美成人黄色-欧美成人黄色片-欧美成人家庭影院-欧美成人精精品一区二区三区-欧美成人精品a8198v无码 | 精品午夜一区二区三区在线观看-精品午夜视频-精品午夜寂寞影院在线观看-精品午夜寂寞黄网站在线-日夜啪啪一区二区三区-日日摸天天爽天天爽视频 | 国产又黄又爽又猛的免费视频播放-国产又黄又爽视频免费观看-国产又黄又湿又刺激不卡网站-国产又黄又a又潮娇喘视频-亚洲国产美女福利直播秀一区二区-亚洲国产乱码在线精品 | 亚洲 欧美 日韩 在线,97热久久免费频精品99国产成人,另类激情亚洲,久久99九九精品免费,久久综合精品国产一区二区三区,2020精品极品国产色在线观看 | 黑人巨大精品欧美-黑人巨大精品欧美一区二区-黑人巨大精品欧美一区二区o-黑人巨大精品欧美一区二区免费-黑人巨大跨种族video-黑人巨大两根一起挤进A片 | 午夜成人影视-午夜成人影片-午夜成人免费影院-午夜不卡影院-国产日本欧美亚洲精品视-国产日本欧美高清免费区 | 成人免费视频77777,精品国产福利,欧日韩一区二区三区,国产高清视频在线观看,欧美日韩1区,欧美一区二区三区在线观看 | 免费看a级-免费看a级毛片-免费看a网站-免费看h的网站-97久久久久-97久久人人 | 五月天婷婷缴情五月免费观看,久久综合热,高清中国一级毛片免费,国产一级高清免费观看,普通话对白国产精品一级毛片,日韩在线不卡视频 | 日操夜操天天操-午夜日日日日日日日日日-亚洲欧洲精品无视频一区二区三区四-国产成人精品无码-婷婷福利综合网-日逼影视 | 天海翼中文字幕-天海翼一区 在线播放-天海翼无码-天海翼视频在线-国产精品网红女主播久久久-国产精品外围在线观看 | 亚洲精品在线观看视频-亚洲精品在线观看-亚洲精品在线第一页-亚洲精品在线播放视频-护士伦理-护士撩起裙子让你桶的视频 | 九九国产在线视频-九九国产在线观看-九九国产在线-九九国产视频-亚洲夜色夜色综合网站-亚洲羞羞视频 | 欧美成人免费xxx大片,91在线视频一区,精品日韩一区二区三区,欧美日韩 在线播放,欧美在线aa,亚洲专区路线一路线二天美 | 欧美在线观看一区,免费看日产一区二区三区,欧美一区二区三区在线,精品1区2区3区,亚洲国产一成人久久精品,久久国产精品最新一区 |