據(jù)VentureBeat報道，谷歌今天發(fā)布了人工智能（AI）開發(fā)和使用指南，其中包括禁止制造自動武器和大多數(shù)可能危害人類的AI應(yīng)用。AI指南發(fā)布幾天前，谷歌宣布不再與美國國防部續(xù)簽分析無人機(jī)視頻的合同。

谷歌首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）

谷歌將自己定位為“AI優(yōu)先”科技公司、流行開源框架（如Kaggle和TensorFlow）的所有者以及知名研究人員的雇主，它也是AI領(lǐng)域最有影響力的公司之一。谷歌首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）：“我們想要澄清的是，雖然我們不開發(fā)用于武器的AI，但我們將繼續(xù)在其他領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍事招募、退伍軍人醫(yī)療、搜索和救援等。”

在博文中，皮查伊闡述了開發(fā)和使用AI時應(yīng)考慮的原則，以及谷歌不會追求的AI應(yīng)用類別。除了禁止設(shè)計自主武器之外，該公司還將尋求避免研發(fā)可能傷害或以傷害人類為主要目的的AI，以及“反國際公認(rèn)規(guī)范的收集或使用信息進(jìn)行監(jiān)視的技術(shù)”。皮查伊表示，谷歌公司研發(fā)的AI應(yīng)該堅持科學(xué)卓越的標(biāo)準(zhǔn)，對人類負(fù)責(zé)，測試后確認(rèn)安全，以及避免強(qiáng)化偏見。

此前，Google AI主管杰夫·迪安(Jeff Dean)和3000多名員工簽署了一份請愿書，敦促谷歌承諾絕不制造自動武器。據(jù)報道，約有12名員工因谷歌公司參與國防部的AI項目Project Maven而辭職。該請愿書敦促谷歌退出該項目，在谷歌“正努力維護(hù)公眾的信任”之際，不這么做可能“無可挽回地?fù)p害谷歌的品牌和其爭奪人才的能力”。

意識到潛在的爭議后，早在去年秋天，Google Cloud首席科學(xué)家李飛飛博士就敦促公司“不惜一切代價”避免提及AI，因為當(dāng)公眾提及Project Maven時，稱其為“AI武器化”，這可能最敏感的AI話題之一。

皮查伊堅持谷歌將繼續(xù)與軍方合作，這可能是一個信號，表明谷歌仍計劃爭奪聯(lián)合企業(yè)防御基礎(chǔ)設(shè)施(JEDI)合同。這是一項與美國軍方簽訂的為期10年、價值100億美元的云協(xié)議，亞馬遜(Amazon)和谷歌等大型科技公司都非常關(guān)注。

一份內(nèi)部備忘錄還透露，谷歌的國防銷售團(tuán)隊成員認(rèn)為，參Project Maven與一份價值數(shù)十億美元的政府合同直接相關(guān)。據(jù)報道，谷歌認(rèn)為其與五角大樓簽署的合同每年可帶來高達(dá)2.5億美元的收入，盡管員工們最初被告知合同價值僅為900萬美元。

三月份有消息稱谷歌參與了Project Maven。其他公司，如IBM，也被邀請參與該項目。上周，五角大樓宣布了擴(kuò)展Project Maven的計劃，并開設(shè)了聯(lián)合人工智能中心。谷歌并不是唯一一家因為參與研發(fā)自主武器而受到員工反對的企業(yè)。今年4月份，超過50名韓國研究人員抵制KAIST人工智能武器實(shí)驗室成立。

皮查伊博客全文：

AI的核心是學(xué)習(xí)和適應(yīng)計算機(jī)編程，它不能解決所有問題，但它改善我們生活的潛力是深遠(yuǎn)的。在谷歌，我們使用AI讓產(chǎn)品變得更有用——從更容易撰寫的無垃圾郵件到可與你自然交談的數(shù)字助理，再到讓你盡情享受的照片應(yīng)用。

在我們的產(chǎn)品之外，我們正在使用AI幫助人們解決緊迫問題。兩名高中生正在研發(fā)AI傳感器來預(yù)測火災(zāi)的風(fēng)險，農(nóng)民們正在用AI來監(jiān)控他們的牲畜健康狀況，醫(yī)生們開始使用AI來幫助診斷癌癥和預(yù)防失明。這些明顯的好處就是為何谷歌在AI研發(fā)上投入大量資金，并通過我們的工具和開源代碼使AI技術(shù)獲得廣泛應(yīng)用的原因。

我們認(rèn)識到，如此強(qiáng)大的技術(shù)對其如何被使用也提出了同樣巨大的挑戰(zhàn)。在未來幾年，AI的開發(fā)和使用方式將對社會產(chǎn)生重大影響。作為AI領(lǐng)域的領(lǐng)導(dǎo)者，我們有責(zé)任把這一切做好。所以今天，我們宣布七大原則來指導(dǎo)我們的工作。這些都不是理論概念，它們是具體的標(biāo)準(zhǔn)，將積極地指導(dǎo)我們的研究和產(chǎn)品開發(fā)，并將影響我們的業(yè)務(wù)決策。

我們承認(rèn)這一領(lǐng)域處于動態(tài)和不斷發(fā)展?fàn)顟B(tài)中，我們將以謙遜的態(tài)度對待我們的工作，致力于內(nèi)部和外部接觸，并愿意隨時間的推移而調(diào)整我們的方法。

AI應(yīng)用目標(biāo)

我們將根據(jù)以下目標(biāo)評估AI應(yīng)用程序，我們認(rèn)為AI應(yīng)該：

1.有利于社會

新技術(shù)的廣泛應(yīng)用日益影響到整個社會。AI的進(jìn)步將在醫(yī)療、安全、能源、交通、制造和娛樂等廣泛領(lǐng)域產(chǎn)生革命性影響。在我們考慮AI技術(shù)的潛在開發(fā)和應(yīng)用時，我們將考慮廣泛的社會和經(jīng)濟(jì)因素，并將在我們認(rèn)為總體收益大大超過可預(yù)見的風(fēng)險和不利因素的情況下進(jìn)行。AI也大幅增強(qiáng)了我們理解內(nèi)容意義的能力。我們將努力利用AI隨時提供高質(zhì)量和準(zhǔn)確的信息，同時繼續(xù)尊重我們所在國家的文化、社會和法律規(guī)范。我們將繼續(xù)深入地評估：何時使我們的技術(shù)在非商業(yè)基礎(chǔ)中可用。

2.避免產(chǎn)生或加強(qiáng)不公平的偏見

AI算法和數(shù)據(jù)集可以反映、增強(qiáng)或減少不公平的偏差。我們認(rèn)識到區(qū)分公平與不公平偏見并不總是簡單的，在不同的文化和社會中，公平的定義也存在差異。我們將設(shè)法避免AI對人類造成不公正的影響，特別是那些與敏感特征有關(guān)的影響，如種族、種族、性別、國籍、收入、性取向、能力、政治或宗教信仰。

3.構(gòu)建并測試AI安全性

我們將繼續(xù)制定和實(shí)施強(qiáng)有力的安全措施，以避免AI造成意外傷害及其后果。我們將設(shè)計保持謹(jǐn)慎的AI系統(tǒng)，并根據(jù)AI安全研究的最佳實(shí)踐進(jìn)行開發(fā)。在適當(dāng)?shù)那闆r下，我們將在受限環(huán)境中測試AI技術(shù)，并在部署后監(jiān)視它們的操作。

4.對人類負(fù)責(zé)

我們將設(shè)計AI系統(tǒng)，它可為反饋、相關(guān)解釋和申訴提供適當(dāng)?shù)臋C(jī)會。我們的AI技術(shù)將受到適當(dāng)?shù)娜祟愔笇?dǎo)和控制。

5.符合隱私設(shè)計原則

我們將把我們的隱私原則納入AI技術(shù)的開發(fā)和使用中。我們將給予通知和同意的機(jī)會，鼓勵具有隱私保護(hù)的架構(gòu)，并提供適當(dāng)?shù)耐该鞫群蛯?shù)據(jù)使用的控制。

6.堅持科學(xué)卓越的標(biāo)準(zhǔn)

技術(shù)創(chuàng)新根植于科學(xué)方法，并需要開放性探究、保持智力嚴(yán)謹(jǐn)、誠信和協(xié)作。AI工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開啟新的科學(xué)研究和知識領(lǐng)域。在我們推動AI發(fā)展的過程中，我們渴望達(dá)到高水平的科學(xué)成就。我們將與一系列利益相關(guān)者共同努力，在這一領(lǐng)域推進(jìn)先進(jìn)的思想，并采用科學(xué)嚴(yán)謹(jǐn)?shù)姆椒āＮ覀儗⒁载?fù)責(zé)任的方式分享AI知識，出版教育材料、最佳實(shí)踐和研究，使更多的人能夠開發(fā)有用的AI應(yīng)用程序。

7.開發(fā)符合上述原則的AI用例

許多技術(shù)都有多種用途。我們將努力限制潛在有害或濫用的AI技術(shù)。隨著我們開發(fā)和部署AI技術(shù)，我們將根據(jù)以下因素評估可能的用途：

1）主要目的和用途：技術(shù)和應(yīng)用的主要目的和可能用途，包括解決方案與有害使用的關(guān)系或適應(yīng)性?

2）性質(zhì)和獨(dú)特性：我們是否提供獨(dú)特的或更普遍的技術(shù)?

3）規(guī)模：該技術(shù)的使用是否會產(chǎn)生重大影響

4）谷歌參與的性質(zhì)：我們是否提供通用工具，為客戶集成工具，還是開發(fā)自定義解決方案

谷歌不會追求的AI應(yīng)用

除了上述目標(biāo)，我們不會在以下應(yīng)用領(lǐng)域設(shè)計或部署AI：

1）造成或可能造成總體傷害的技術(shù)。在有重大風(fēng)險的領(lǐng)域，我們只會在我們認(rèn)為好處遠(yuǎn)遠(yuǎn)大于風(fēng)險的部分進(jìn)行，并將納入適當(dāng)?shù)陌踩拗疲?/p>

2）武器或其他技術(shù)，其主要目的或?qū)嵤┰斐苫蛑苯訉?dǎo)致人類受到傷害；

3）收集或使用信息進(jìn)行監(jiān)視的技術(shù)，它們違反國際公認(rèn)規(guī)范；

4）其目的違反普遍接受的國際法和人權(quán)原則的AI技術(shù)。

我們要澄清的是，雖然我們沒有開發(fā)用于武器的AI，但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作，其中包括網(wǎng)絡(luò)安全、培訓(xùn)、軍事招募、退伍軍人醫(yī)療、搜索和救援。這些合作非常重要，我們將積極尋找更多的方法來加強(qiáng)這些組織的關(guān)鍵工作，并確保服務(wù)人員和平民的安全。

AI遠(yuǎn)景

雖然這是我們選擇與AI打交道的方式，但我們明白，在這場對話中，需要更多其他聲音加入。隨著AI技術(shù)的發(fā)展，我們將與一系列利益相關(guān)方合作，在這一領(lǐng)域推廣更先進(jìn)的思想，采用科學(xué)嚴(yán)謹(jǐn)、多學(xué)科的方法。我們將繼續(xù)分享我們在改進(jìn)AI技術(shù)和實(shí)踐方面的經(jīng)驗。

我們相信這些原則是我們公司和AI未來發(fā)展的正確基礎(chǔ)。這種做法與2004年“創(chuàng)始人的信”（Founders’ Letter）中提出的價值觀相一致。當(dāng)時我們曾明確表示，我們打算從長遠(yuǎn)的角度出發(fā)，即使這意味著要做出短期的權(quán)衡。