Bengio還談到了自己的情況。這些擔憂無疑對他個人生活和工作產(chǎn)生了影響。以前，Bengio是備受尊崇的人工智能專家，他愿意為自己熱愛和擅長的事業(yè)奮斗終生。人工智能事業(yè)曾經(jīng)給他帶來身份認同感和人生方向。但是，由于現(xiàn)在這些擔憂的存在，這些東西對他來說已經(jīng)不再清晰?！皩τ谀切┥硖幦斯ぶ悄茴I(lǐng)域的人來說，這在情感上是具有挑戰(zhàn)性的?！?/div>
然而，盡管憂郁情緒存在，但是在他內(nèi)心深處仍然存在積極的態(tài)度。“你可以說我感到迷失，但是你必須堅持下去，必須參與討論，鼓勵別人和你一起思考?！?/div>
正如Bengio所提到的，埃隆·馬斯克也表達過類似的擔憂。盡管他并不認為人工智能一定會滅絕人類，但他認為人工智能可能會限制和控制人類。
Bengio認為，所有與人工智能產(chǎn)品相關(guān)的科技巨頭公司都需要受到監(jiān)管和登記。政府需要追蹤它們的活動，并進行審計。這只是我們對其他任何行業(yè)（如航空、汽車或制藥）所做的最基本的事情。此外，我們還需要引入道德培訓，盡管這在計算機科學領(lǐng)域并不常見。
Huggingface的科學家Sasha Luccioni博士表示，社會應該關(guān)注諸如人工智能偏見和錯誤信息傳播等具體問題。她認為這些問題更加切實可行，而滅絕人類等抽象的問題還沒有具體討論的基礎。
實際上，還有許多例子顯示了人工智能為社會帶來的許多好處。就在上周，借助人工智能的力量，一個癱瘓的人通過意念控制得以再次嘗試行走，這得益于使用人工智能開發(fā)的微芯片。此外，人工智能對國家經(jīng)濟產(chǎn)生了深遠影響，許多公司已經(jīng)開始使用人工智能工具取代人工勞動力，這也是好萊塢劇作家罷工的一個重要原因。
與Bengio相似，圖靈獎得主Geoffrey Hinton也因為對人工智能風險的擔憂而引起關(guān)注。他宣布離職谷歌，以便能夠自由地談論人工智能的風險，而不考慮對谷歌的影響。Hinton直言不諱地警告世人，他深刻擔憂人工智能的風險，并對自己的畢生工作感到后悔。
Hinton的離職標志著科技行業(yè)正處于幾十年來最重要的拐點之一，這也讓許多業(yè)內(nèi)人士感到不安。他們擔心他們的研究可能會釋放出某種危險。因為生成式人工智能已經(jīng)成為制造錯誤信息的工具，并且在未來可能對人類構(gòu)成威脅。
Hinton認為，我們尚未找到有效的方法來防止壞人利用人工智能做壞事。盡管面臨反對浪潮，Hinton并未在限制人工智能發(fā)展的兩封公開信上簽名。他表示，在辭去工作之前，他不想公開批評谷歌或其他公司。
他最近終于下定決心，通知谷歌即將辭職。選擇離職后，Hinton終于可以暢所欲言地談論人工智能的風險了。他承認對自己的畢生工作感到十分后悔，但他安慰自己說即使沒有他，也會有其他人繼續(xù)前進。
這些憂慮和擔憂凸顯了人工智能發(fā)展過程中的倫理和安全問題。盡管人工智能帶來了許多積極的影響和創(chuàng)新，但我們必須認真面對其潛在的風險。
為了應對這些問題，政府、科技公司和學術(shù)界需要密切合作，制定嚴格的規(guī)范和準則來管理人工智能的發(fā)展和應用。這包括對軍方和其他潛在惡意行為的限制，加強監(jiān)管和審計，以及加強道德培訓和教育。
同時，公眾也需要參與到人工智能的討論中，了解其潛在風險和影響，以便能夠做出明智的決策和推動相關(guān)政策的制定。
人工智能是一項強大的技術(shù)，可以為社會帶來巨大的好處。然而，我們必須確保其發(fā)展和應用符合倫理和人類價值，以確保人工智能能夠真正成為人類的助力，而不是威脅。
2025-4-27
2025-4-27
2025-4-27
2025-4-27
2025-4-27
2025-4-02
2025-4-13