4月4日，科技部發(fā)布關(guān)于公開征求對(duì)《科技倫理審查辦法（試行）》意見的公告，提出建立倫理高風(fēng)險(xiǎn)科技活動(dòng)的清單制度，人工智能、基因編輯等部分前沿探索在清單之列。該公告一經(jīng)發(fā)出，引發(fā)科技界人士關(guān)注。
科技倫理問(wèn)題與科學(xué)技術(shù)發(fā)展相伴相生。從多莉羊到“深藍(lán)”戰(zhàn)勝國(guó)際象棋棋手卡斯帕羅夫，從轉(zhuǎn)基因、納米技術(shù)等新興科技異軍突起，到人工智能、大數(shù)據(jù)應(yīng)用的無(wú)孔不入，從神經(jīng)科學(xué)、合成生物學(xué)等顛覆性的未來(lái)科技呼之欲出，到ChatGPT對(duì)人類生產(chǎn)方式可能造成的沖擊，越來(lái)越多的人深刻認(rèn)識(shí)到，科學(xué)設(shè)想可以天馬行空、漫無(wú)邊際，但科技創(chuàng)新行為絕不能信馬由韁、為所欲為。
很多人對(duì)科技探索任性妄為的嚴(yán)重后果的最初認(rèn)知，往往來(lái)源于科幻電影。比如在知名影片《侏羅紀(jì)公園》里，一名商人癡心于恐龍基因編輯，企圖使恐龍復(fù)活，建造主題公園。不料復(fù)活后的恐龍開始襲擊游客，造成傷亡……如果我們對(duì)基因編輯、克隆技術(shù)等不嚴(yán)格規(guī)范、善加利用，誰(shuí)能保證不會(huì)出現(xiàn)“不計(jì)后果研發(fā)利用新技術(shù)的蠢人”？科幻作品有時(shí)候可能是現(xiàn)實(shí)的前瞻。例如電影《機(jī)械姬》引發(fā)的關(guān)于“如何防止人工智能利用人類弱點(diǎn)與人類為敵”的思考，今天看來(lái)，絕非毫無(wú)根據(jù)。
據(jù)比利時(shí)媒體報(bào)道，近日，一名當(dāng)?shù)貗D女聲稱，她的丈夫在與人工智能聊天機(jī)器人聊了6周后自殺身亡。日前，1000多名人工智能專家聯(lián)名簽署了一封公開信，呼吁暫停開發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月，稱其“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。聯(lián)合國(guó)教科文組織也就人工智能倫理問(wèn)題發(fā)表聲明。不久前在武漢舉行的一個(gè)大數(shù)據(jù)論壇上，中國(guó)工程院院士楊善林也直言：“人工智能取代人類工作的范圍正在不斷擴(kuò)大。”雖然人工智能可能帶來(lái)多大風(fēng)險(xiǎn)仍然是學(xué)界探索的課題，也有很多專家對(duì)此持樂(lè)觀的看法，但是給予充分關(guān)注、適當(dāng)提高警惕不是壞事。
我國(guó)高度重視科技倫理問(wèn)題。此次有關(guān)部門公開征求對(duì)《科技倫理審查辦法（試行）》的意見，是落實(shí)指導(dǎo)意見、避免風(fēng)險(xiǎn)、應(yīng)對(duì)挑戰(zhàn)、完善制度、引導(dǎo)科技向善的重要舉措，影響廣泛、意義深遠(yuǎn)。
對(duì)于科技倫理審查，社會(huì)上也有一些議論。有人認(rèn)為守護(hù)科技倫理、劃定底線，會(huì)影響科技創(chuàng)新的效率，扼殺科技創(chuàng)新的活力，實(shí)則不然。如果有的科技人員毫無(wú)責(zé)任底線、毫無(wú)道德界限、毫無(wú)敬畏之心，損害國(guó)家和人類社會(huì)利益，那就不是創(chuàng)新創(chuàng)造，反而是破壞。造成危害后再叫停，對(duì)科研機(jī)構(gòu)和企業(yè)造成的人力物力財(cái)力損失更大。
由此而論，列出清單、明確底線，引導(dǎo)科學(xué)家在法律和制度允許的范圍內(nèi)盡情施展、勇攀高峰、開展負(fù)責(zé)任的創(chuàng)新，不僅不是對(duì)“創(chuàng)新效率”的阻滯，反而是對(duì)“創(chuàng)新效率”的呵護(hù)。
科技本身并無(wú)善惡之分，但是在國(guó)家利益和人類安全面前，一位負(fù)責(zé)任的科學(xué)家往往需要保持必要的謙抑，并牢記那句箴言——“科學(xué)絕不是一種自私自利的享樂(lè)，有幸能夠致力于科學(xué)研究的人，首先應(yīng)該拿自己的學(xué)識(shí)為人類服務(wù)”。
來(lái)源：《中國(guó)科學(xué)報(bào)》
