内部告発者によると、OpenAIはスタッフによる安全リスクの公表を違法に禁止したという。

OpenAIの内部告発者は、人工知能企業が従業員に対し、その技術が人類に及ぼす重大なリスクについて規制当局に警告することを違法に禁止したとして、証券取引委員会に苦情を申し立て、調査を求めている。

今月初めにSECコミッショナーに送られた正式な苦情に言及した7ページの書簡によると、内部告発者らは、オープンAIが従業員に対して過度に制限的な雇用、退職、秘密保持契約を発行しており、連邦規制当局にオープンAIに関する懸念を提起した従業員に罰則が科される可能性があったと述べている。この書簡はワシントンポスト紙が独占的に入手した。

書簡によると、OpenAI は従業員に、内部告発者への補償に対する連邦の権利を放棄することを義務付ける従業員契約に署名させた。これらの契約では、OpenAI の従業員が連邦当局に情報を開示する場合は、事前に会社から同意を得ることも義務付けられていた。OpenAI は、従業員の非中傷条項に、証券取引委員会への証券違反の開示に関する免除規定を設けていなかった。

書簡では、これらの過度に広範な合意は、報復を恐れることなく匿名で自社に関する不利な情報を暴露したいと望む内部告発者を保護することを目的とした長年の連邦法および規制に違反していると指摘した。

「これらの契約は、『従業員が連邦規制当局と話をすることを望まない』というメッセージを送った」と報復を恐れて匿名を条件に語った内部告発者の一人は語った。「AI企業が監視や反対意見から身を守れば、安全で公共の利益になる技術を構築できるとは思えない」

OpenAIの広報担当者ハンナ・ウォン氏は声明で、「当社の内部告発ポリシーは、保護された情報開示を行う従業員の権利を保護しています。さらに、この技術に関する厳格な議論が不可欠であると考えており、非中傷条項を削除するために退職手続きにすでに重要な変更を加えています」と述べた。

内部告発者の書簡は、利他的な使命を持つ非営利団体として始まったOpenAIが、その技術を開発する際に安全よりも利益を優先しているという懸念の中で出された。ワシントン・ポスト紙は金曜日、OpenAIが、ユーザーに生物兵器の製造を教えたり、ハッカーが新しい種類のサイバー攻撃を開発するのを助けるなど、AIを壊滅的な被害から守るとしている独自のセキュリティテストプロトコルを「遵守できなかった」という従業員の懸念にもかかわらず、ChatGPTを動かす最新のAIモデルを、会社のリーダーたちが設定した5月のリリース日に間に合わせるために急いでリリースしたと報じた。OpenAIの広報担当者リンジー・ヘルド氏は声明で、「当社は安全プロセスを省略したわけではないが、リリースがチームにとってストレスの多いものであったことは認識している」と述べた。

ハイテク企業の厳格な秘密保持契約は、長い間、労働者や規制当局を悩ませてきた。ジョージ・フロイド殺害に対する#MeToo運動や全国的な抗議活動の際、労働者は、そのような法的契約は性的違法行為や人種差別を報告する能力を制限すると警告した。一方、規制当局は、企業のアルゴリズムが選挙や公衆衛生、子供の安全を損なうコンテンツを促進しているという疑惑がある中、不透明なハイテク業界での違法行為を警告できるハイテク従業員の口を封じることを、その条項が懸念している。

人工知能の急速な進歩により、政策立案者たちはテクノロジー業界の力に対する懸念を強め、規制を求める声が殺到している。米国では、AI企業は主に法の空白地帯で活動しており、政策立案者たちは、急速に進歩する技術がもたらす潜在的な脅威を説明するのに役立つ内部告発者の助けなしに、新しいAI政策を効果的に作成することはできないと述べている。

「OpenAIのポリシーと実践は、内部告発者が声を上げ、保護された情報開示に対して正当な補償を受ける権利を萎縮させる効果を及ぼしているようだ」と、チャック・グラスリー上院議員（アイオワ州共和党）はワシントン・ポスト紙への声明で述べた。「連邦政府が人工知能で常に一歩先を行くためには、OpenAIの秘密保持契約を変更しなければならない」

SEC委員長ゲイリー・ゲンスラー宛ての手紙のコピーは議会に送られた。ワシントン・ポスト紙はグラスリー氏の事務所から内部告発の手紙を入手した。

書簡で言及されている正式な苦情は6月にSECに提出された。OpenAIの内部告発者を代表する弁護士スティーブン・コーン氏は、SECが苦情に対応したと述べた。

SECが調査を開始したかどうかは不明。SECはコメント要請に応じなかった。

書簡では、これらの違法な契約はAI業界全体に関係する可能性があり、AI企業に技術の安全な開発を求める10月のホワイトハウスの大統領令に違反する可能性があるため、SECは「迅速かつ積極的な」措置を講じて対処する必要があると述べている。

「このような執行活動の中心にあるのは、内部関係者が連邦当局に懸念を自由に報告できる必要があるという認識だ」と書簡は述べている。「従業員は、大統領令で言及されている種類の危険を察知し警告するのに最も適した立場にあり、AIが人類に逆効果をもたらすのではなく、人類に利益をもたらすようにするのを支援するのにも最も適した立場にある」

これらの協定では、従業員が企業秘密法に基づき連邦当局に法律違反を報告した場合、刑事訴追を受けると脅迫されていたとコーン氏は述べた。従業員は企業情報を秘密にするよう指示され、政府にそのような情報を報告する権利を認められることなく「厳しい制裁」を受けると脅されたとコーン氏は述べた。

「AIの監視に関しては、私たちはまだ始まったばかりだ」とコーン氏は言う。「従業員が前に進むこと、そしてOpenAIがオープンであることが必要だ」

SECはOpenAIに対し、連邦法に違反していないことを確認するために、秘密保持条項を含む雇用契約、退職契約、投資家契約をすべて提出するよう要求すべきだと書簡は述べている。連邦規制当局はOpenAIに対し、過去および現在の従業員全員に同社が犯した違反を通知するとともに、彼らにはSECに秘密裏に匿名で法律違反を報告する権利があることを通知するよう要求すべきだ。内部告発者の書簡によると、SECはSEC法に基づき「不適切な契約」ごとにOpenAIに罰金を科し、OpenAIに過去の慣行の「萎縮効果」を是正するよう指示すべきだという。

フェイスブックの内部告発者フランシス・ホーゲン氏を含む複数の技術系従業員が、2008年の金融危機を受けて内部告発者プログラムを設立したSECに苦情を申し立てた。

シリコンバレーが秘密保持契約を「情報の独占」に利用していることへの反撃は長期戦になっていると、サンフランシスコの弁護士クリス・ベイカー氏は語る。同氏は昨年12月、グーグルが内部告発やその他の保護された活動を阻止するために煩わしい秘密保持契約を利用したとの訴えに対し、グーグルの従業員のために2,700万ドルの和解金を勝ち取った。現在、ハイテク企業は言論を阻止する巧妙な手段で反撃する傾向が強まっていると同氏は語った。

「雇用主は、情報漏洩のコストが訴訟コストよりもはるかに高くなる場合があることを学んでいるため、リスクを負っても構わないと思っている」とベイカー氏は語った。