日前，復旦大學哲學學院MAE應用倫理2024級專業(yè)碩士在職研究生在課程老師楊慶峰教授指導下，在光華樓西主樓2501成功舉辦了以“人類命運畫布上的倫理筆觸”為主題的《科技倫理專題》課程案例研討會。本次研討會匯聚了來自哲學、公共管理、科技、法律等多個領域的專家學者和研究生及對科技倫理話題感興趣的社會人士，共同探討了科技飛速發(fā)展背景下的倫理問題和挑戰(zhàn)。

　　會議由哲學學院24級MAE應用倫理專業(yè)胡佳欣主持，點評專家包括上海交通大學科學史與科學文化研究院閆宏秀教授、復旦大學國際關系與公共事務學院鄭磊教授、復旦大學哲學學院徐志宏副教授和楊慶峰教授。專家們的深入點評為研討會提供了寶貴的學術支持和指導。研討會分為上下兩個半場，上半場聚焦于人工智能倫理，涉及AI換臉詐騙、生成式人工智能倫理問題、AI Agent落地企業(yè)應用及相關問題、算法鏡像等議題。下半場則圍繞醫(yī)療數(shù)據(jù)的倫理問題、企業(yè)智能體實踐與反思、DBS（腦深度神經(jīng)刺激）技術發(fā)展的倫理思考、危廢物處置的環(huán)保技術推廣問題等前沿科技倫理案例進行深入研討。

　　案例一：AI換臉詐騙

　　分享人：2024級MAE劉婧賢、張康、姚好、胡佳欣、陳嗣元

　　數(shù)字面龐的技術誕生讓一人千面成為了可能。由AI換臉詐騙的案例引發(fā)對不同種類數(shù)字面龐的探討，根據(jù)同一性和真實性的強弱關系將數(shù)字面龐分為數(shù)字面貌、數(shù)字復活、數(shù)字擬真、數(shù)字面具四大象限。對這四象限的倫理審視，涉及面孔失真、身份失落、社會失信等范圍的討論，并根據(jù)不同情況分析可能涉及的法律后果。結(jié)合列維納斯關于“臉”的表述，特別探討了數(shù)字復活能否成為“他者”、數(shù)字面貌中的“美顏”是再現(xiàn)美貌還是審美同質(zhì)化等內(nèi)容。希望提出更加明晰的數(shù)字面龐使用的知情同意書設計要求，需要嚴格授權(quán)、規(guī)范使用，涉及數(shù)字采集、數(shù)據(jù)應用及用戶體驗等方面知情同意，以期更規(guī)范化使用數(shù)字面龐。

　　專家點評：

　　鄭磊教授指出，AI換臉技術的濫用不僅涉及隱私侵犯，還可能對社會信任造成深遠影響。他強調(diào)，技術提供方應承擔起審查義務，確保技術不被用于非法目的。閆宏秀教授則從數(shù)據(jù)倫理的角度提出，應加強對數(shù)字臉龐使用的監(jiān)管，明確數(shù)據(jù)采集和應用的規(guī)范，保障用戶的知情同意權(quán)。

　　案例二：生成式人工智能倫理問題

　　分享人：2024級MAE張育偉

　　近年來，通過“深度偽造（Deepfake）”技術生成的虛假內(nèi)容造成侵權(quán)的事件多發(fā)，不法分子利用技術實施詐騙的案例也層出不窮。隨著生成式人工智能的發(fā)展，多模態(tài)的“深度偽造”內(nèi)容的技術門檻已經(jīng)很低，而技術普及帶來的倫理滑坡風險和給人類社會帶來的群體性危機也迫在眉睫，主體的“不在場”也在人與技術框架內(nèi)造成了主體性消解的風險。在以互聯(lián)網(wǎng)為媒介的數(shù)字社會轉(zhuǎn)型的過程中，音視頻內(nèi)容實際上已經(jīng)成為了主流的信息傳播和大眾娛樂的主體，“AI數(shù)字人”等“深度偽造”內(nèi)容的商業(yè)化也方興未艾。如何認識技術商業(yè)化和人的認知與權(quán)利保護的張力，如何對”深度偽造”技術的應用進行合理的治理，回顧智能手機和汽車等有效的治理實踐，也許能夠提供一種基于原則化的實踐治理路徑和基于人和技術責任的規(guī)制方式。

　　專家點評：

　　徐志宏副教授對張玉偉同學提出的分級治理路徑表示贊賞，他認為這為解決生成式人工智能的倫理問題提供了新思路。同時，他也指出，分級治理應結(jié)合具體場景，明確不同級別下的責任主體和監(jiān)管措施。楊慶峰教授則強調(diào)，生成式人工智能的倫理問題復雜多變，需要跨學科合作，共同尋找解決方案。

　　案例三：AI Agent落地企業(yè)應用及相關問題

　　分享人：2024級MAE李春堂、陳丹妮

　　近年來，人工智能（AI）技術飛速發(fā)展，大模型驅(qū)動的AI Agent正從簡單自動化執(zhí)行躍升至高度自主與創(chuàng)新，深度嵌入各行業(yè)，推動企業(yè)數(shù)智化轉(zhuǎn)型，成為新時代的創(chuàng)新引擎。從AI面試到智能客服，從知識管理到無人駕駛，AI Agent正在重塑傳統(tǒng)業(yè)務模式，為效率提升和生產(chǎn)力變革注入強大動能。然而，技術革命也帶來了諸如隱私保護、算法歧視、責任歸屬、職業(yè)替代和社會公平等一系列復雜倫理挑戰(zhàn)，迫使我們重新思考人類與AI的關系。在AI Agent逐步具備自主決策能力以及多AI系統(tǒng)復雜性涌現(xiàn)的背景下，構(gòu)建跨主體、可解釋的動態(tài)治理機制已成當務之急。這不僅是防范技術濫用的必要措施，更是守護人類主體性和自由的關鍵保障。唯有將AI Agent深度融入社會—技術—自然的多元生態(tài)中，并與公正、自由和尊嚴等核心價值相對齊，人類方能邁向人機協(xié)作的全新時代，真正實現(xiàn)創(chuàng)新紅利的普惠共享。這是技術與倫理融合的時代命題，也是全社會共同面對的使命。

　　專家點評：

　　鄭磊教授對AI Agent在企業(yè)應用中的潛力表示肯定，但他也提醒，技術普及需警惕失業(yè)潮和分配不均等問題。閆宏秀教授則提出，企業(yè)應在智能化進程中關注員工的職業(yè)發(fā)展和培訓需求，確保技術紅利惠及更多人。

　　案例四：算法鏡像

　　分享人：2024級MAE侯弘毅

　　2024年初，某社交平臺因AI算法操控問題引發(fā)廣泛關注。該平臺運用大數(shù)據(jù)和AI技術，將算法操控產(chǎn)品化，極大威脅了用戶的自主性。用戶在這個體系中，由于自愛和利己傾向被過度放大，容易迷失于海量信息，被誘導消費，喪失自我決策的能力。這不僅侵犯了用戶隱私，更加劇了認知偏見，導致信息失衡和社會分化。算法操控的濫用還可能引發(fā)數(shù)據(jù)壟斷和不公平競爭，威脅社會經(jīng)濟秩序。我們必須對此保持高度警惕，加強監(jiān)管，明確技術倫理邊界，推動科技向善，保障數(shù)字經(jīng)濟健康發(fā)展。用戶在使用這類平臺時，應理性看待算法推薦，保持獨立思考，避免喪失自主性，成為算法的傀儡。

　　專家點評：

　　徐志宏副教授對侯弘毅同學從廣告人視角剖析算法鏡像表示贊賞，他認為這有助于更深入地理解算法推薦機制的倫理問題。楊慶峰教授則強調(diào)，算法鏡像不僅影響用戶行為，還可能對社會價值觀和公共權(quán)益造成潛在威脅，因此需要加強監(jiān)管和透明度。

　　結(jié)合實際案例，分享人進行了精彩的案例展示和深入剖析，展示出科技倫理問題的復雜性和緊迫性。AI換臉詐騙、生成式人工智能倫理問題、AI Agent企業(yè)應用、算法鏡像、醫(yī)療數(shù)據(jù)使用權(quán)、企業(yè)智能體實踐、DBS技術發(fā)展以及危廢物處置等前沿科技倫理議題，反映了科技倫理領域的熱點和難點，增強討論的現(xiàn)實關聯(lián)性和針對性。專家點評環(huán)節(jié)為每個案例提供了深刻的見解和建議，為案例提供了多維度的解讀。會議還特別設置了交流環(huán)節(jié)和現(xiàn)場投票，增加了互動性，使與會者能更積極地參與討論。研討會還邀請第一屆應用倫理專業(yè)碩士研究生2023級MAE黃鵬作為觀察員，他高度評價今年研討會在深度、交流及實踐方面均有顯著提升，希望協(xié)同持續(xù)探索，為構(gòu)建公正、可持續(xù)的科技未來貢獻力量。

　　楊慶峰教授在總結(jié)發(fā)言中強調(diào)，科技倫理教育的重要性日益凸顯，希望通過此類研討會，培養(yǎng)出更多具有倫理意識的科技人才，為構(gòu)建健康公正的科技生態(tài)貢獻智慧。他提出，未來將繼續(xù)推動跨專業(yè)交流，將科技倫理教育拓展到更廣泛的領域。

　　隨著科技的迅猛發(fā)展，科技倫理問題已成為社會關注的熱點。通過此次研討會，復旦大學應用倫理專碩學生展現(xiàn)了其在科技倫理教育和研究方面的專業(yè)能力和責任感，為推動科技倫理的學術研究和實踐應用提供了有力的支持。