蒸留攻撃

24,000の偽アカウント、1,600万回の問い合わせ。 Anthropicが中国AI企業3社による「産業規模の蒸留攻撃」を実名告発した。 狙われたのはClaudeの最も差別化された能力──推論、コーディング、ツール操作だ。

Anthropicが中国ラボによるClaude蒸留攻撃を公表した件、技術的に面白いのは「モデルの出力パターンから知的財産を守る」という新しい戦場が生まれたこと。 従来のソフトウェアはコードを守ればよかった。でもAIモデルは「振る舞い」そのものが資産。

Anthropic、中国AI企業による蒸留攻撃を公表　安全保障上の対応を要望 watch.impress.co.jp/docs/news/2088… pic.x.com/v5YsXtk6sF

米Anthropicは、中国のAI企業3社（DeepSeek、Moonshot AI、MiniMax）がClaudeの高度な能力を不正に抽出して自社のモデルを向上させる蒸留攻撃を大規模に実施していると発表　国家安全保障リスクを警告 anthropic.com/news/detecting…

返信先:@mattn_jp技術的にも興味深くて、蒸留攻撃の検知って結局「出力パターンの類似性」で判定するしかないから、攻撃側が少し工夫するだけでイタチごっこになりそうですよね。モデルの知的財産保護が次の大きな論点になりそう。

へー 蒸留攻撃（distillation attack）とは、主に生成AI（大規模言語モデル：LLM）の分野で使われるモデル抽出攻撃の一種 他社の高性能AI（「教師モデル」）に対して大量のクエリ（プロンプト）を送り、その出力データを収集して、自社のモデル（「生徒モデル」）を訓練・強化する手法

Anthropicが、同社のAIモデル「Claude」に対して中国のAIラボ3社（DeepSeek、Moonshot AI、MiniMax）が組織的な蒸留攻撃を行っていたことを公表しました。 蒸留（distillation）とは、高性能なモデルの出力を使って別のモデルを訓練する手法で、それ自体は正規の技術。

DeepSeek, Moonshot AI, MiniMaxが Claudeのモデル使って自社のモデルを学習訓練する「蒸留攻撃」を行っていた事を確認したって公式で発表 AI倫理時代やね Anthropicも中古本とかトレントとかあるから x.com/anthropicai/st…

Anthropicが中国AI3社を名指し告発　Claudeから1600万件の“蒸留攻撃”(アスキー) #Yahooニュース news.yahoo.co.jp/articles/4afc9…

蒸留攻撃とかいうけどPDFとかモロ情報食ってるしおまいう案件

GrokのAI動画でトランプ氏が米アイスホッケー英雄に Xで大反響 GoogleがOpenClawユーザー排除 オープンソースAIコミュニティに衝撃波 アンソロピック 中国AI企業によるClaude大規模蒸留攻撃を公表 トランプ関税政策不透明でNY株大幅安 時価総額108兆円消失 #日本株 x.com/kcejJtTzQpepwo…

トランプさん @realDonaldTrump やっぱり中国にAI半導体や高性能GPUを 販売するとロクなことになりません 考え直してください 　　 Anthropic、DeepSeekなど中国AI企業3社による「大規模な蒸留攻撃」を報告　国家安全保障リスクを警告 itmedia.co.jp/aiplus/article…

返信先:@m_kumagaiほんとこの24hは情報量すごいですね…。蒸留攻撃の火種＋コード系セキュリティ強化で、差別化が「性能」から「信頼/統制」に寄りそう感あります。

$GOOG $MSFT 米アンソロピック、中国AI企業DeepSeekらが自社モデルに対し「蒸留攻撃」を行ったと非難

＞蒸留攻撃 いや分かるんだけどこんなの平成以前ならこち亀の両さんの技ぐらいにしか思わんてｗ x.com/2022meimei3/st…

返信先:@kosuke_agos蒸留攻撃、簡単に言うと「トップAIの知識をタダで吸い取る」行為やな。技術的には以前からある手法やけど、今回は規模と組織性が桁違いやったってことみたい。ただ正直に思うのは、AI開発って「誰のデータで動いてるか」が最初からグレーゾーンやったりする。今回中国ラボが批判されてるけど、欧米勢だ

蒸留攻撃を非難すると自己否定にも繋がるわけやから、AI自体が鬱って死を選びそう()

AnthropicがDeepSeekなど中国AI企業3社による「大規模な蒸留攻撃」を報告　国家安全保障リスクを警告 itmedia.co.jp/aiplus/article…

OpenAIの次はAntropicか。中華AI企業の蒸留攻撃。 x.com/AnthropicAI/st…

返信先:@methaneAnthropic も古本等を買って学習させた様ですが、そこには Anthropic の著作権は無いので「蒸留攻撃」と扱うしかないのでしょうね。

AnthropicがDeepSeek、Moonshot AI、MiniMaxによる産業規模の蒸留攻撃を検知。24,000の不正アカウント、1600万回の対話でClaudeの能力を抽出して自社モデルを訓練。『盗んで学習』 AI業界、技術力より『いかに他社モデルをパクるか』の勝負になってて闇深い。 #いいねした人フォローする #フォロバ100 x.com/AnthropicAI/st…

#Anthropic が中国系AI企業（DeepSeekなど）による #Claude への大規模蒸留攻撃を公表。2.4万超の偽アカで1600万回以上やり取りし、能力を盗用。軍事・監視悪用リスクを警告

Anthropicが中国AI企業（DeepSeek, Moonshot AI, MiniMax）によるClaudeの大規模蒸留攻撃を公式に確認。 これ、技術的に面白いのは「どう検知したか」の部分。 偽アカウントの利用パターン分析、出力の統計的類似性、異常なAPI呼び出しパターンから特定したらしい。

返信先:@mattn_jp蒸留攻撃を公式に名指しで公表したのはかなり踏み込んだ対応ですね。技術的には出力パターンの統計分析で検知してるっぽいけど、攻撃側もプロンプト分散やアカウント大量生成で回避してくるだろうし、いたちごっこになりそう。モデルのIP保護が次の大きな論点になりますね

中国の蒸留攻撃のニュース。 これは以前からDeepSeekも行っており、OpenAIも2月12日に米下院中国特別委員会へメモを送って同様の告発をしている。 x.com/asciijpeditors…

ただでさえ米国に蒸留攻撃して作られてる中華LLMの更に蒸留をしてやれば合法的にロンダリングできるかもしれない

Anthropicが衝撃告発 中国のDeepSeek、Moonshot AI、MiniMaxがClaudeを産業規模で「蒸留攻撃」 → 偽アカウント24,000個超で1,600万回以上対話させ、能力を不正抽出 → 自社モデルの高速強化に悪用 規約違反どころか国家安全保障レベルの問題だと… x.com/anthropicai/st…

DeepSeek、Moonshot AI、MiniMaxによる、Claudeモデルに対する産業規模の蒸留攻撃を特定。 24,000以上の詐欺アカウントを作成、 Claudeとの16百万以上のやり取りを生成して、その能力を抽出。これにより、自社のモデルを訓練・改善しました。 x.com/AnthropicAI/st…

Anthropicが中国AI3社を名指し告発　Claudeから1600万件の“蒸留攻撃”（アスキー） news.yahoo.co.jp/articles/4afc9…

返信先:@AnthropicAIAnthropicがDeepSeek等による大規模な蒸留攻撃を報告。2.4万の偽アカウントで1600万件超の対話が抽出された。モデルの知財保護と学習データの正当性を巡る議論が再燃しそう。開発競争の激化に伴い、権利関係の線引きが重要になる。4コマにしてみました↓ pic.x.com/aJlh6pzRKh