AI 不僅僅是一場新的技術(shù)革新，更是一場社會關(guān)系變革和價值觀念的重塑。它所帶來的不僅是技術(shù)創(chuàng)新和社會生活 的便利，還包括各種智能化風(fēng)險和倫理挑戰(zhàn)。人類不能以純技術(shù)中心或者技術(shù)中立的視角來看待 AI 以及處理人類與 AI 的關(guān)系，典型體現(xiàn)如 AI 技術(shù)與用戶隱私及數(shù)據(jù)濫用問題。AI 技術(shù)的應(yīng)用大量涉及個人數(shù)據(jù)的收集和處理，AI 系 統(tǒng)涉及的隱私和個人信息可能被用于未來模型的迭代訓(xùn)練；AI 還可能被用來生成虛假信息或惡意軟件，從而造成重 大經(jīng)濟(jì)損失和引發(fā)法律糾紛。這些問題都迫切需要建立與之適配的社會治理和價值體系。

很多學(xué)界代表在公開論壇等場合表達(dá)了這一擔(dān)心。例如，復(fù)旦大學(xué)計算機(jī)科學(xué)技術(shù)學(xué)院教授、上海市數(shù)據(jù)科學(xué)重點實 驗室主任肖仰華在 2024 Inclusion 外灘大會上曾表示，人類與其擔(dān)心 AI 產(chǎn)生意識，不如先去擔(dān)心 AI 過速發(fā)展引發(fā) 失控的風(fēng)險。肖仰華認(rèn)為，AI 大規(guī)模應(yīng)用的挑戰(zhàn)，首先在于當(dāng)下的生產(chǎn)關(guān)系等社會發(fā)展上層建筑，如何適應(yīng)以人工智 能為代表的先進(jìn)生產(chǎn)力的快速發(fā)展；其次，技術(shù)普惠問題同樣值得關(guān)注，即如何避免少部分人借助先進(jìn)技術(shù)形成不正 當(dāng)?shù)母偁巸?yōu)勢；此外，還應(yīng)該特別注意防范技術(shù)成癮，防止先進(jìn)技術(shù)對人類造成反噬。

1950 年，艾薩克·阿西莫夫出版了《我，機(jī)器人》一書，書的引言中提出的“機(jī)器人三大定律”，開啟了人工智能倫 理（AI ethics）研究的先聲。“機(jī)器人三大定律”旨在約束自主機(jī)器，使其服從以保護(hù)人類為目的的強(qiáng)制性人性倫理準(zhǔn) 則，從宏觀層面規(guī)范了人工智能的運用邊界。面向未來，AI 應(yīng)用的首要原則應(yīng)該是以人為本，AI 應(yīng)用要回歸科技服 務(wù)于人的本質(zhì)，凡是傷害人之本性的 AI 要格外謹(jǐn)慎使用。此外，應(yīng)明確 AI 不應(yīng)該成為少數(shù)人的特權(quán)，每個人都有權(quán) 利并且能夠參與其中。這些新的社會和倫理關(guān)系也構(gòu)成了新的人機(jī)關(guān)系的重要組成部分，亟待進(jìn)一步從社會、倫理和 法律等層面對人機(jī)關(guān)系進(jìn)行新規(guī)范、新思考。

展望未來，隨著應(yīng)用的日益深入，作為人類的創(chuàng)造物，人工智能將被賦予以前只能由人類心智完成或嘗試的任務(wù)—— 產(chǎn)生接近乃至超越人類智能所能完成的結(jié)果，這無疑挑戰(zhàn)了人何以為人的決定性屬性。AI 的發(fā)展促使人們重新思考人類的獨特性和價值所在，促使人們從“以人類理性為中心”轉(zhuǎn)變?yōu)椤耙匀祟愖饑?yán)和自主性為中心”，并需要在技術(shù)進(jìn) 步和人文關(guān)懷之間找到平衡。