AIの規制方法：OpenAIは『ウォーターマーク』を支持、マスク氏は安全テストの強化を希望

Hawk Insight

2024-08-27 12:21:01

2.54W

メディアの報道によると、OpenAI、アドビ、マイクロソフトなどは、AIが生成したコンテンツに「透かし」を入れることを義務付けるカリフォルニア州のAB3211への支持を表明している。

人工知能の急速な発展に伴い、人工知能の規制に関する議論も徐々に加熱している。米カリフォルニア州は多くの人工知能企業の孵化地として、現地でも人工知能の規制提案が相次いでいる。しかし、AI規制の強さについては、企業によって異なる見方がある。

Open AI、MicrosoftなどがAIコンテンツの“ウォーターマーク”をサポート

メディアの報道によると、OpenAI、アドビ、マイクロソフトなどが、カリフォルニア州のAB 3211（カリフォルニア州デジタルコンテンツ証明基準）への支持を表明した。

AB 3211では、AIが生成した写真、ビデオ、オーディオクリップのメタデータに透かしを追加することを技術企業に求めている。現在、すでに多くのAI企業がこれを実施しているが、ほとんどの人はメタデータを読まない。そこでAB3211では、大規模なオンライン・プラットフォーム（インスタグラムやXなど）に対しても、AIが生成したコンテンツに一般の視聴者が理解できるようなタグ付けをすることを求めている。

法案はまた、2026年から大規模なオンライン・プラットフォームは、そのプラットフォーム上で欺瞞的に合成されたコンテンツの見直しに関する透明性報告書を毎年作成することが義務付けられると言及している。

OpenAI、アドビ、マイクロソフトの3社はCoalition for Content Provenance and Authenticityのメンバーであり、AIが生成したコンテンツにタグ付けするための標準として広く使われているC2PAメタデータの作成に貢献した。

アドビ、マイクロソフト、米国最大のソフトウェアメーカーを代表する業界団体は4月、カリフォルニア州議員宛ての書簡で、この法案を「実行不可能」「不当に負担が大きい」とし、AB3211に反対していた。しかし、法案の修正により、彼らの考えは変わったようだ。

AB 3211の修正案に見られるように、行政処分の金額が変更された。当初の法案では、故意または重大な過失による各違反に対して最高50万ドルの行政処分を科すとされていたが、修正案では最高10万ドルに変更されている。

ムスク、AIの厳格なセキュリティテストを支持

一方、AI企業xAIの創業者であるマスクは、Xに投稿し、AIに関するカリフォルニア州の別の法案、SB1047（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act）である。

「困難な決断であり、一部の人々を動揺させるだろうが、あらゆることを考慮すると、カリフォルニア州はSB 1047 AI安全法を可決すべきだと思う」マスクは、「20年以上にわたって、一般大衆に潜在的なリスクをもたらすあらゆる製品／技術を規制するのと同様に、AIの規制を提唱してきた」と述べた。

SB1047は、カリフォルニア州選出の上院議員スコット・ウィーナーによって2月に提出されたもので、法案ではAI企業に厳格な安全プロトコルを課すと言及している。ウィーナーは、この法案の目的は「最も強力で大規模なAIシステムの開発者に対し、明確で予測可能な常識的な安全基準を設け、大規模な人工知能システムの安全な開発を保証すること」だと述べている。人工知能システムの安全な開発を保証すること」である。

SB1047は、訓練に1億ドル以上を費やすモデルを開発する企業や、高水準の計算能力を使用する企業に適用される。これらの企業は、新しい技術を公に使用する前に安全性をテストすることが義務づけられ、モデルに「完全シャットダウン」機能を組み込み、その技術のすべての応用に責任を負わなければならなくなる。

法案はAI開発者の法的基準も定めており、カリフォルニア州司法長官は「違法行為」を行った企業を起訴することができる。法案はまた、内部告発者の保護を設け、AIモデルの計算限界を設定し、規制ガイダンスを発行する委員会を設立する。

SB1047は、米国で最も両極端なAI政策案のひとつである。法案は曖昧で負担が大きく、オープンソースモデルに冷や水を浴びせることになると主張するメタやOpenAIといったテック大手から激しい批判を受けている。

メタは、「想定できない法的責任を負うことなくモデルをオープンソース化することは不可能である」ため、法案はオープンソースAIのリリースを妨げるだろうと主張した。メタはまた、中小企業のエコシステムに影響を与える可能性が高く、新たな雇用、ビジネス、ツール、サービスを生み出すためのオープンソースモデルの利用を減らすだろうと述べた。可能性

California Legislative Databaseによると、カリフォルニア州の議員たちは今立法シーズンにAIを扱う65の法案を提出しようと試みた。その中には、アルゴリズムによるすべての判断が不偏不党であることを保証する措置や、亡くなった個人の知的財産をAI企業による搾取から保護する措置などが含まれている。しかし、法案の多くはすでに頓挫している。

前述のAB3211とSB1047は、テック大手からの支援により注目度が高まっており、両法案は現在「作業中」の状態にあり、今月末にはカリフォルニア州議会で最終的な採決が行われる見通しだ。