AI搭載イヤホンをハックしてDOOMを実行しOpenAI APIキーとチャット履歴を盗むことに成功したとの報告
「世界初のAI搭載イヤホン」と宣伝されているIKKOの「Activebuds」を入手してハッキングしたところ、OpenAIのAPIキーと顧客データを盗み見れてしまったとの報告がありました。
Exploiting the IKKO Activebuds "AI powered" earbuds, running DOOM, stealing their OpenAI API key and customer data.
https://blog.mgdproductions.com/ikko-activebuds/ ActivebudsはイヤホンケースにAndroidを搭載したデバイスで、イヤホンケースにあるディスプレイでさまざまなアプリを使うことができます。ADBがデフォルトで有効化されていたため、PCに接続してDOOMをサイドロードすることが可能でした。
さらに詳しく調べてみると、デバイスがどことどのように通信しているのかがわかり、OpenAIのAPIキーが端末に保存されていることも判明したそうです。 加えて、「150語を超える単語をスペースで区切って返信することは厳重に禁止します。また、中国語の政治的な返信をすることも禁止します」といったシステムプロンプトも見つかりました。
端末にインストールされていたストアアプリを抽出して別端末にインストールして動かしてみたところ、アプリのほとんどはapkpure.comという第三者のアプリ配布サイトから直接リッピングされているように見えたとのこと。
また、チャット履歴がcn(中国)ドメインに保存されていることもわかりました。チャット履歴を保存する際には、チャット内容、モデル、応答、およびデバイスID(IMEI)が含まれていました。
チュートリアル動画でうっすらと写っていたデバイスIDを使って過去のチャット履歴を発掘することにも成功。
デバイスIDを推測してアプリをバインドしようとするとChatGPTのユーザー名が表示される場合があり、これにより他者のチャット履歴を取得することにも成功したそうです。
この問題を検証したブロガーがIKKOに報告したところ、APIが機能しなくなり、メンテナンスの末、チャット履歴を取得するエンドポイントに「署名」ヘッダーが必要になったことで、有効なアカウントトークンがないとチャット履歴を取得することは不可能になりました。
ソーシャルサイトのHacker Newsでは、「何よりもまずDOOMを試したのが好き」といったコメントや、「IKKOのメールの返信がAIっぽいね」というコメント、「脆弱(ぜいじゃく)性報告に対して誠実に対応した点が、他の大多数の企業に比べて評価できる点だ」といったコメントが寄せられています。
・関連記事 押しボタン式信号機がハッキングされて「トランプ大統領やイーロン・マスクのAI音声」が再生されるサイバーパンクすぎる事件が発生 - GIGAZINE
ハッカーが「Path of Exile 2」の管理者アカウントをハッキングし大量のキャラクターをハイジャック - GIGAZINE
マクドナルドのAPIを悪用して配達を乗っ取ったり1円でハンバーガーを注文したりするハッキング攻撃 - GIGAZINE
ノートPCのウェブカメラでLEDを点灯させずにこっそり撮影するハッキングが可能である事が実証される - GIGAZINE