AI詐騙頻發(fā)，名人屢被“冒充”，青少年與AI對話后自殺……AI技術(shù)發(fā)展過程中，安全挑戰(zhàn)一直如影隨形。如何確保“AI向善”，發(fā)展負(fù)責(zé)任的人工智能？11月21日，2024世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會人工智能負(fù)責(zé)任開發(fā)與應(yīng)用論壇在浙江烏鎮(zhèn)舉行，來自政、產(chǎn)、學(xué)、媒的多位與會嘉賓對此作了深度討論。
中國國家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏、浙江省人民政府副省長張雁云出席論壇并致辭。人民網(wǎng)董事長、傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室主任葉蓁蓁出席論壇并發(fā)言。
世界知識產(chǎn)權(quán)組織駐華代表劉華在致辭中指出，人工智能的發(fā)展正在對知識產(chǎn)權(quán)工作產(chǎn)生前所未有的影響，人工智能參與下的知識產(chǎn)權(quán)保護(hù)問題成為全球關(guān)注的焦點(diǎn)。各國在司法判例和實(shí)踐中對人工智能對知識產(chǎn)權(quán)的影響有不同的處理方式，這進(jìn)一步凸顯了人工智能技術(shù)給知識產(chǎn)權(quán)帶來的挑戰(zhàn)。因此，需要進(jìn)一步加強(qiáng)人工智能領(lǐng)域的國際協(xié)調(diào)與合作，以應(yīng)對這些挑戰(zhàn)。
全國政協(xié)委員、中國網(wǎng)絡(luò)空間安全協(xié)會理事長趙澤良發(fā)言。主辦方供圖
第十四屆全國政協(xié)委員、中國網(wǎng)絡(luò)空間安全協(xié)會理事長趙澤良在發(fā)言中指出，人工智能的安全治理要把握好三個方面，一是要高度關(guān)注和注意解決人工智能本身和人工智能在使用過程中可能產(chǎn)生的安全問題；二是要善于、注重用人工智能，包括用大模型來解決其他類型的網(wǎng)絡(luò)安全問題；三是人工智能安全治理，要以保障和促進(jìn)人工智能的發(fā)展應(yīng)用為出發(fā)點(diǎn)。這三點(diǎn)哪一點(diǎn)都離不開創(chuàng)新，創(chuàng)新是核心，創(chuàng)新是靈魂。
中國工程院院士、同濟(jì)大學(xué)校長鄭慶華發(fā)言。主辦方供圖
“AI向善”首先意味著要以人為本。中國工程院院士、同濟(jì)大學(xué)校長鄭慶華表示，讓科技與人類價值對齊，是引導(dǎo)人工智能科技向善、以人為本的重要基礎(chǔ)。鄭慶華強(qiáng)調(diào)，作為教育工作者，既要發(fā)揮人工智能的賦能作用，又要防止技術(shù)凌駕于人之上，在人才培養(yǎng)領(lǐng)域堅持德智體美勞全面發(fā)展，避免技術(shù)“物化”和“異化”。
香港理工大學(xué)視覺計算講座教授、歐洲人文和自然科學(xué)院外籍院士陳長汶發(fā)言。主辦方供圖
“AI向善”也意味著要可持續(xù)發(fā)展。香港理工大學(xué)視覺計算講座教授、歐洲人文和自然科學(xué)院外籍院士陳長汶坦言，從實(shí)踐看，人工智能在多方面與可持續(xù)發(fā)展存在著爭奪寶貴資源的博弈。目前的大模型仍依賴于超大規(guī)模的算力和能源資源的供給。跟人腦的低功耗相比，差別巨大。需要我們對下一代人工智能訓(xùn)練、推理設(shè)計提出新的架構(gòu)要求。
螞蟻集團(tuán)副總裁李俊奎發(fā)言。主辦方供圖
“AI向善”要具體問題具體分析。在螞蟻集團(tuán)副總裁李俊奎看來，AI如同高速行駛的汽車，需要道路和信號的引導(dǎo)。他提出“紅燈停、黃燈等、綠燈行”的理念，即對違反人類價值觀的AI應(yīng)用進(jìn)行防御和抵制，對潛在風(fēng)險的AI應(yīng)用進(jìn)行慎重對待，對有益于人類的AI應(yīng)用予以鼓勵和支持。
深圳理工大學(xué)計算機(jī)科學(xué)與控制工程學(xué)院院長、講席教授，美國醫(yī)學(xué)與生物工程院院士潘毅發(fā)言。主辦方供圖
“AI向善”依托于技術(shù)的發(fā)展。深圳理工大學(xué)計算機(jī)科學(xué)與控制工程學(xué)院院長、美國醫(yī)學(xué)與生物工程院院士潘毅說，從應(yīng)用看，人工智能正經(jīng)歷普通模型、行業(yè)模型、場景模型和問題模型四個發(fā)展階段，每個階段的發(fā)展，都依賴于更多的知識和參數(shù)微調(diào)。目前人工智能更多是基于參數(shù)的預(yù)測推理，后續(xù)還需不斷攻克算力限制、AI幻覺、風(fēng)險識別等問題，最終在各領(lǐng)域?qū)崿F(xiàn)高價值賦能。
安恒信息董事長范淵發(fā)言。主辦方供圖
“我們應(yīng)該以工具視之，以工具用之，以工具治理之。”安恒信息董事長范淵提出，新一代人工智能技術(shù)，不僅僅是人機(jī)交互體驗(yàn)、協(xié)作的革命，更是專家經(jīng)驗(yàn)傳承的一次變革。在網(wǎng)絡(luò)安全、數(shù)據(jù)安全領(lǐng)域，AI正在重構(gòu)安全工作協(xié)同關(guān)系，助力安全產(chǎn)業(yè)發(fā)展和行業(yè)應(yīng)用價值化呈現(xiàn)，為行業(yè)應(yīng)用帶來質(zhì)的變化。
宜人智科董事會主席、首席執(zhí)行官唐寧發(fā)言。主辦方供圖
通過積極的治理和技術(shù)創(chuàng)新，AI可以成為推動社會進(jìn)步和提升生活質(zhì)量的有力工具。宜人智科董事會主席、首席執(zhí)行官唐寧談到，從理論研究到商業(yè)運(yùn)用，人工智能通過技術(shù)創(chuàng)新與應(yīng)用創(chuàng)新發(fā)揮了眾多積極作用。將人工智能技術(shù)轉(zhuǎn)化為具體且可行的解決方案與產(chǎn)品，對推動人工智能行業(yè)的發(fā)展以及實(shí)現(xiàn)商業(yè)價值，有著至關(guān)重要的意義。
圓桌對話“洞見與人工智能共存的未來”。主辦方供圖
圓桌對話“構(gòu)建可互操作的人工智能治理框架”。主辦方供圖
在圓桌討論環(huán)節(jié)中，嘉賓一致認(rèn)為：全球協(xié)作是AI治理的關(guān)鍵，需要各方共同努力，形成系統(tǒng)性共識，推動AI治理的有效實(shí)施。隨后，圍繞AI治理的具體路徑，中國科學(xué)院自動化研究所人工智能倫理與治理中心主任曾毅、中國電信研究院副院長李安民、浙江大學(xué)傳媒與國際文化學(xué)院常務(wù)副院長方興東、浙江大學(xué)濱江研究院數(shù)智融合研究中心主任韓蒙、劍橋大學(xué)智能未來研究中心項(xiàng)目主任肖恩·歐·海格緹、美國奧爾布賴特石橋集團(tuán)合伙人及副總裁保羅·特里奧洛、香港醫(yī)院管理局資訊科技及醫(yī)療信息部總經(jīng)理余法昌、鈦媒體聯(lián)合創(chuàng)始人劉湘明、印象筆記董事長兼首席執(zhí)行官唐毅等多位專家進(jìn)行了深入探討。
本次論壇由世界知識產(chǎn)權(quán)組織、人民網(wǎng)、中國網(wǎng)絡(luò)空間安全協(xié)會、安恒信息主辦，英國標(biāo)準(zhǔn)協(xié)會、印象筆記、鈦媒體協(xié)辦，旨在促進(jìn)建設(shè)多主體參與、多層面治理的人工智能科研、轉(zhuǎn)化與發(fā)展機(jī)制，推動構(gòu)建人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的良好生態(tài)。