當(dāng)?shù)貢r(shí)間9月5日,歐洲委員會(huì)宣布《人工智能與人權(quán)、民主和法治框架公約》(下稱《AI公約》)正式向全球各國(guó)開(kāi)放簽署,這是全球首部具有法律約束力的公約。
《AI公約》由歐洲委員會(huì)牽頭制定,條約內(nèi)容于今年5月確定,一共有57個(gè)國(guó)家參與了討論過(guò)程,其中包括加拿大、以色列、日本、澳大利亞等11個(gè)非歐盟成員國(guó)。官方最新消息顯示,目前已經(jīng)有10個(gè)國(guó)家和組織簽署了《AI公約》,美國(guó)、歐盟、英國(guó)、以色列都在首批簽署名單中。
接下來(lái),《AI公約》需要各個(gè)簽署國(guó)國(guó)內(nèi)立法機(jī)構(gòu)的批準(zhǔn),一旦得到5個(gè)立法機(jī)構(gòu)的批準(zhǔn)(其中至少包括3個(gè)歐洲委員會(huì)成員國(guó)),公約會(huì)在三個(gè)月后開(kāi)始生效。
需要注意的是,《AI公約》旨在解決AI風(fēng)險(xiǎn)和安全問(wèn)題,主要聚焦于保護(hù)人權(quán)。牽頭制定的歐洲委員會(huì)(Council of Europe)為國(guó)際組織,宗旨為維護(hù)歐洲的人權(quán)、民主和法治,而非歐盟委員會(huì)這樣的行政機(jī)構(gòu)。
具體內(nèi)容上,《AI公約》共8章36個(gè)條款,為AI規(guī)定了一系列原則,包括保護(hù)隱私和個(gè)人數(shù)據(jù)、平等和非歧視、不損害人的尊嚴(yán)和自主……公約要求簽署國(guó)對(duì)人AI產(chǎn)生的任何有害和歧視性結(jié)果負(fù)責(zé),并要求AI侵權(quán)的受害者擁有法律追索權(quán)。
與歐盟的《AI法案》不同的是,該公約涵蓋了公共和私營(yíng)部門(mén)的AI使用。公共當(dāng)局需要評(píng)估、管理、監(jiān)督AI系統(tǒng)全周期內(nèi)可能產(chǎn)生的影響。在自身使用AI時(shí),必須確保透明度和公眾參與機(jī)制,公眾需要有途徑質(zhì)疑AI決定,并向當(dāng)局提出投訴。
盡管《AI公約》具有法律約束力,但有批評(píng)聲指出,公約沒(méi)有罰款等制裁措施,靠各簽署國(guó)向歐洲委員會(huì)遞交報(bào)告。這種報(bào)告機(jī)制是國(guó)際條約的常見(jiàn)做法,是一種較弱的執(zhí)行方式。
去年以來(lái),全球各地的AI監(jiān)管規(guī)則在加速出臺(tái)。當(dāng)?shù)貢r(shí)間8月1日,歐盟《AI法案》正式生效,是全球首部全面監(jiān)管AI的法規(guī)。法案生效的6個(gè)月后(即明年1月),社會(huì)評(píng)分、公共場(chǎng)所的生物識(shí)別系統(tǒng)等不可接受的風(fēng)險(xiǎn)將被全面禁止;生效的12個(gè)月后(即明年8月),ChatGPT這樣的通用大模型(GPAI)需要進(jìn)一步提高透明度,提高訓(xùn)練數(shù)據(jù)摘要、提供技術(shù)文檔等。
此外,美國(guó)加州備受爭(zhēng)議的《前沿人工智能模型安全創(chuàng)新法案》上周在立法機(jī)關(guān)通過(guò),目前正在等待州長(zhǎng)的決定。該法案要求人工智能公司公開(kāi)其訓(xùn)練模型的關(guān)鍵信息,如數(shù)據(jù)來(lái)源、數(shù)據(jù)類型和數(shù)據(jù)處理方式等。許多業(yè)內(nèi)人士持反對(duì)態(tài)度,比如,斯坦福大學(xué)教授李飛飛認(rèn)為法案可能會(huì)損害人工智能學(xué)術(shù)界、開(kāi)源社區(qū)的創(chuàng)新,尤其是限制開(kāi)源社區(qū)的成長(zhǎng)。包括OpenAI、Meta、谷歌、蘋(píng)果、亞馬遜在內(nèi),多家科技大廠高層共同簽字反對(duì)該法案。