臺北新聞熱綫

(SeaPRwire) –   加州州長蓋文·紐森否決了一項法案，該法案本將成為美國最全面的規範人工智慧安全的政策之一。

該法案本將成為首批要求人工智慧開發商對其技術造成的任何嚴重損害負責的法案之一。它招致了一些著名民主黨人和主要科技公司，包括 ChatGPT 開發商 OpenAI 和風險投資公司 Andreessen Horowitz 的強烈批評，他們警告稱這可能會阻礙加州的創新。

紐森將這項立法描述為“善意”，但在聲明中表示，它將對“最基本的功能”施加“嚴格的標準”。他說，監管應基於“經驗證據和科學”，並指出了他自己關於人工智慧的行政命令以及他簽署的規範該技術的幾項其他法案，這些法案規範了圍繞已知風險的技術，例如 。

圍繞加州 SB 1047 法案的爭論突顯了世界各國立法者在控制人工智慧風險的同時支持新興技術所面臨的挑戰。自兩年前 ChatGPT 發布引發全球生成式人工智慧熱潮以來，美國政策制定者尚未通過任何關於該技術的全面立法。

提出該法案的加州民主黨參議員斯科特·韋納稱紐森的否決是“對所有相信監督大型公司的人的挫折”。韋納在 X 上發表的一份聲明中說：“結果我們所有人都變得不那麼安全了。”

‘合理注意’

SB 1047 將要求開發強大人工智慧模型的公司採取合理措施，確保其技術不會造成“嚴重危害”，例如造成重大傷亡或超過 5 億美元的財產損失。公司將不得不採取特定的預防措施，包括保持一個可以關閉其技術的終止開關。人工智慧模型還將接受第三方測試，以確保它們將嚴重風險降至最低。 

該法案還將為希望 的人工智慧公司員工提供吹哨人保護。違反該法案的公司可能會被加州總檢察長起訴。

該法案的支持者表示，它將制定常規的法律標準。但風險投資者、初創企業領導人和像 這樣的公司警告稱，這將會減緩創新速度，並迫使人工智慧公司離開該州。 

“人工智慧革命才剛剛開始，加州作為人工智慧全球領導者的獨特地位正在推動該州的經濟活力，”OpenAI 首席戰略官傑森·權在上個月反對該法案的信中寫道。“SB 1047 將威脅到這種增長，減緩創新速度，並導致加州世界一流的工程師和企業家離開該州，到其他地方尋找更大的機會。”

立法者反對

包括前眾議院議長南希·佩洛西、眾議員羅·卡納和舊金山市長倫敦·布里德在內的立法者也表達了他們的反對，他們與科技業界的擔憂相呼應，即該法案可能會阻礙加州在人工智慧創新方面的領導地位。紐森最近表示，他擔心該法案可能會對人工智慧發展產生“”。

該法案在上個月月底該法案 之前，得到了科技界一些知名人士的支持。埃隆·馬斯克出乎意料地表示支持，儘管他說這是一個“艱難的選擇，會讓一些人生氣”。OpenAI 競爭對手 Anthropic 以其安全導向而聞名，它表示該法案的“好處可能超過其成本”，儘管該公司表示一些方面仍然“令人擔憂或含糊不清”。 

韋納為該法案辯護，強調其條款僅適用於在訓練大型模型上花費超過 1 億美元或在微調模型上花費超過 1000 萬美元的公司，這項限制將使大多數小型初創企業不受影響。這位立法者還指出，國會在技術自身監管方面一直以來都非常緩慢。

紐森在宣布否決時表示，他將諮詢包括人工智慧學者和企業家李飛飛在內的外界專家，“制定可行的技術限制”，並繼續與州立法機構就該主題進行合作。 

州長還在周日簽署了一項法案，即 SB 896，該法案規範了州政府機構如何使用人工智慧。