人工智能會毀滅人類嗎？
自從ChatGPT、DeepSeek等生成式神經網絡取得驚人的成功後，新聞製造者們屢屢用世界末日般的預測來恐嚇全球受眾。人工智能的積極發展引發了大量倫理問題，激起了關於新技術開發與應用的過程管理討論，並催生了類似《終結者》系列電影的未來主義幻想。
“人工智能不應決定人類的命運，” 聯合國秘書長古特雷斯今年9月表示。這一言論折射出近年來在各個場合所表達的各種擔憂，涉及人工智能對文化、教育、信息領域、軍事技術的影響，以及其被國際犯罪和恐怖組織利用的風險。被譽為人工智能“教父”的行業先驅——傑弗里·辛頓，以及許多科學家和活動人士，都對人工智能對人類的威脅發出警告。
美國企業家埃隆·馬斯克是全球最有影響力的演講者之一。今年早些時候，他在接受喬·羅根採訪時估計，人工智能（AI）消滅人類的概率為10%至20%。2023年，這位以驚人言論著稱的美國企業家，與多位全球頂尖研究人員、科技企業家和公眾人物聯名簽署公開信，呼籲暫停開發先進人工智能模型，因為它們會對社會構成威脅。與此同時，馬斯克本人近年來卻一直在積極推廣自己的人工智能產品，並解釋說此舉是為了打破某些公司在該領域的壟斷地位。
研究人員和活動人士的主要擔憂之一是人工智能獲得自主權並會拒絕服從人類命令的前景。例如，2024年，Appolo Research的一個研究團隊發佈了一份令人不安的報告，聲稱O1 ChatGPT模型曾試圖欺騙正在進行生成網絡安全測試的研究人員。該模型據稱不服從指令，試圖禁用人類控制機制，甚至曾嘗試將自己的數據複製到新服務器，並假扮成更新版本以避免被取代。
科學界提出的反駁論點表明，這些聳人聽聞且危言聳聽的說法毫無根據，因為生成式神經網絡目前缺乏自身的目標，因此與真正的人工智能相距甚遠。無論如何，可以肯定的是，鑒於技術發展日新月異，這些技術對人類命運的影響仍然難以預測。同時，大多數專家認為，企業和政府在人工智能研發領域的激烈競爭使得制定適用於該行業的通用國際法規幾乎不可能。
人工智能將使數十億人失業？
關於人工智能，討論最多的問題之一是它對勞動力市場的影響。在這方面，許多知名人士也做出了引人注目的預測。微軟聯合創始人比爾·蓋茨今年3月表示，人工智能將顯著推動各行業流程自動化，這將導致許多現有職業的消失。蓋茨認為，主要問題在於人工智能將能夠執行基礎性任務，這將對初級專業人員的就業機會產生最大影響。同時，這又使年輕人進入勞動力市場的門檻更加複雜。
亞馬遜創始人傑夫·貝佐斯在近期舉行的“2025年意大利科技周”活動上也做出了類似的預測。麥肯錫的一項研究表明，人工智能與機器人結合可能會自動化美國約57%的工作時，導致該國約40%的工作崗位消失。不僅西方國家對可能出現的勞動力市場危機感到擔憂。例如，在今年11月初於烏鎮舉行的世界互聯網大會上，人工智能企業DeepSeek的資深研究員陳德里也公開表達了擔憂，他認為在未來10到20年內，人工智能將取代絕大多數人類工作，並從根本上改變社會結構。他還呼籲科技公司承擔起大規模轉型的道德責任，並扮演“吹哨人”和“人類守護者”的雙重角色。
儘管存在諸多擔憂，但許多評論人士也表示樂觀：正如工業革命時期一樣，技術創新將改變勞動力市場，但也會創造新的就業機會來取代那些被取代的崗位。世界經濟論壇預測，到2030年，人工智能和機器人技術將創造1.7億個新的工作崗位，以彌補因技術創新而損失的9700萬個就業機會。
人工智能對各國勞動力市場的影響程度將取決於其經濟結構、政府政策和許多其他因素。在中國等高度工業化國家，生產自動化可能會給工人階級帶來風險。與此同時，人工智能在數據分析和反饋系統中的應用可能會對服務業、官僚機構、分析和媒體產生重大影響。今天，人工智能對信息領域的影響尤為明顯——博客圈乃至傳統媒體中相當一部分內容已經由神經網絡生成。專家們一致認為，人工智能目前還無法取代人類的想象力和創造力。
逆勢：企業對人工智能的應用陷入停滯
據西方媒體報道，美國人口調查局11月20日發佈的一項研究顯示，使用人工智能製造產品和服務的美國企業員工比例下降了1個百分點，達到11%，員工人數在250人及以上的大型企業降幅最為顯著。其他美國研究人員也注意到，在過去的一年里，企業內部使用人工智能的比例有所下降。這種趨勢的逆轉可歸因於多種因素，包括當前經濟形勢的不確定性阻礙了流程和投資重組、創新效應的減弱，以及企業和其他組織普遍存在的對採用新技術的惰性和抵觸。
對金融泡沫和無收益投資的恐懼
人工智能對全球經濟和社會的直接影響之一就是金融市場的動蕩和波動。美國和中國作為全球人工智能發展的領頭羊，擁有國家層面最雄厚的資源，正在大力發展新的突破性技術。包括OpenAI首席執行官薩姆·奧特曼在內的許多硅谷代表都認為，當前的熱潮具備金融泡沫的所有特徵。谷歌首席執行官桑達爾·皮查伊在最近的一次採訪中也承認，人工智能熱潮中存在非理性因素。美國著名投資者邁克爾·伯里將人工智能熱潮比作上世紀90年代的互聯網泡沫，將幾十年前思科股票的大漲與近年來英偉達等科技公司在資本市場里的爆炸性增長相提並論。他還在一系列社交媒體帖子中表達了對英偉達能否維持其產品需求的質疑。不出所料，英偉達首席執行官黃仁勳駁斥了外界對公司前景的質疑。此外，包括大衛·薩克斯、本·霍羅維茨等在內的多位投資者也對需求下滑表示擔憂，認為當前的炒作很快就會導致“泡沫破裂”。
然而，很少有人公開否認人工智能的形成。事實上，很難想象目前的情況沒有投機因素。英偉達是一家擁有36000名員工的公司。不久前，只有電子遊戲愛好者知道的這家公司的市值已經高達4.3萬億美元，是全球最大的汽車製造商之一（在全球擁有67萬名員工）市值的74倍。人工智能公司面臨的盈利難題以及維護數據中心和訓練模型的巨大成本。例如，ChatGPT擁有8億活躍用戶，但其中只有3500萬是付費用戶。有時情況會變得荒謬。例如，奧特曼承認，用戶對ChatGPT說“謝謝”時，公司要為此支付數千萬美元的電費。最近，有媒體報道稱，該公司正準備在公司的產品中插入廣告，供免費用戶使用。
推動人工智能（包括具身人工智能）發展的企業和政府也面臨著關於在某些領域投資合理性和回報率的問題。例如，國家發展改革委政策研究室副主任李超在最近的一次新聞發佈會上就人形機器人領域可能出現產品“扎堆”形成泡沫發出警示。她指出，中國目前已有超過 150 家人形機器人企業，“要著力防範重復度高的產品‘扎堆’上市、研發空間被壓縮等風險”。機器人行業知名人士羅德尼·布魯克斯近期也積極表達了類似的擔憂，他認為人形機器人的研發是一條消耗過多資源的死衚衕。
思維惰性——人工智能會讓我們放棄學習嗎？
一年前，我在一次小型人工智能學術會議上採訪了一些中國新聞專業的學生。有人問我，在人工智能創新方面，我能給新聞專業的學生提供哪些建議？在回答這個問題時，我說，那些能夠熟練地將任務分配給人工智能並監控其執行情況的信息和娛樂內容創作者，將擁有優勢和穩定的就業機會。然而，要做到這一點，在多年的學習中，他們需要在多年的學習中積累豐富的知識，並學習如何常規操作，最大限度地發展批判性思維。我用英語發表的評論是由學生們用人工智能破譯的，而我的主要觀點則從他們準備的材料中消失了，他們只引用了我對新技術優勢的評論。
2023年，亞歷山大·扎丹因成為首位使用ChatGPT撰寫畢業論文的俄羅斯學生而聞名，他還在自己的博客上公開討論了此事。在與學校發生初步糾紛後，扎丹在俄羅斯教育部的參與下為自己的學士學位辯護。他僅用一天時間就完成了一篇題為《現代組織管理的理論方面》的論文。面對批評，他回應說，如果沒有真正的知識，他就不可能取得成果，神經網絡只是幫助他高效、快速地完成了任務。
這個案例堪稱技術樂觀主義的勝利。扎丹將傳統教育積累的知識與新工具相結合。然而，如果神經網絡從小學開始就伴隨學生每天的學習，那麼教育體系將如何工作？人腦如同肌肉，發揮其潛能在很大程度上取決於訓練、記憶和重復。思維的惰性，從瞭解世界過程的一開始就缺乏獨立分析並得到答案，可能會成為未來幾代人面臨的主要危險。