ChatGPTの開発者Open AIは最近、監視や世論操作を含む悪意のある活動のためにその技術を使用している疑いのある北朝鮮のユーザーのアカウントをブロックおよび削除したと述べた。Open AIの報告書によると、これらの活動は、権威主義政権がAI技術を使用して米国と自国民を支配する可能性がある方法です。同社はまた、AIツールを使用してこれらの悪意のある操作を検出したと付け加えた。Open AIは、ブロックされたアカウントの数やアクションが発生した時間枠を明らかにしなかった。あるケースでは、北朝鮮と関係がある可能性のある悪意のあるアクターがAIを使用して偽の求職者の履歴書やオンラインプロフィールを作成し、欧米企業のポジションに不正に応募しました。また、カンボジアの金融詐欺に関連している疑いのあるChatGPTアカウントもあり、Open AI技術を使用してXやFacebookを含むソーシャルメディアやコミュニケーションプラットフォーム上のコメントを翻訳·生成しています。