GPT-4chan
| 作者 | EleutherAI |
|---|---|
| 開発元 | Yannic Kilcher |
| 初版 | 2022年6月3日 |
| リポジトリ | https://github.com/yk/gpt-4chan-public |
| プログラミング 言語 | Python |
| 種別 | |
| ライセンス | Apache-2.0 |
| 公式サイト |
huggingface |
Generative Pre-trained Transformer 4Chan（GPT-4chan、ジーピーティーフォーチャン）は、YouTuberでAI研究者のYannic Kilcherによって2022年6月に開発・公開されたAIモデルである。このモデルは大規模言語モデルであり、4chanの匿名掲示板「/pol/」の数百万件の投稿データセットを用いてGPT-Jをファインチューニングすることで、入力に基づいたテキストを生成することができる。4chanは、時にヘイトスピーチや過激なコンテンツをホストすることで知られる匿名のオンラインフォーラムである。
このモデルは/pol/ユーザーのスタイルと口調を模倣することを学習し、しばしば特定の集団に対して意図的に攻撃的（人種差別的、性差別的、同性愛嫌悪的など）で虚無主義的なテキストを生成した。Kilcherはこのモデルを/pol/掲示板自体に配備し、正体を明かさずに他のユーザーと交流させた。また、AIモデルを共有・利用するためのプラットフォームであるHugging Faceでモデルを公開したが、後にプラットフォームから削除された[1]。
このプロジェクトはAIコミュニティで批判と議論を引き起こした。このようなモデルを作成・配布することの倫理、合法性、社会的影響について疑問視する声もあった。GPT-4chanの論争で提起された問題には、ヘイトスピーチ拡散の潜在的な害、AI開発者とプラットフォームの責任、AIモデルの規制と監督の必要性、AI研究におけるオープンソースと透明性の役割などが含まれる[2]。
開発
GPT-4chanの開発は2022年5月、Kilcherが自身のYouTubeチャンネルでプロジェクトを発表したことに始まる[3]。特筆すべきは、ChatGPT以前の当時、彼は最も悪名高いオンラインコミュニティの一つである/pol/のスタイルでリアルで一貫性のあるテキストを生成できる大規模言語モデルを作りたいと説明していたことである[4]。
彼は、OpenAIが作成した強力なAIモデルであるGPT-3の成功と、独立系AI研究者グループEleutherAIがリリースした、GPT-3に匹敵する性能を持つオープンソースモデルGPT-Jに触発されたと述べた。KilcherはGPT-Jをプロジェクトのベースモデルとして使用し、以前に公開された/pol/投稿のデータセットでファインチューニングすることにした[5]。
その後KilcherはGPT-Jモデルを4chanデータでファインチューニングした。彼はモデルの出力例をいくつか示したが、それらは政治的意见、陰謀論、ジョーク、侮辱、脅迫から、詩、物語、歌、コードなど、より創造的で奇妙なテキストまで多岐にわたった。彼はモデルが流暢で多様なテキストを生成する能力に感銘を受け、実際の/pol/ユーザーとどのように交流するかに興味を持ったと述べた[6]。
公開
2022年6月、Kilcherは自身のモデルを/pol/掲示板自体に配備し、スレッドに投稿し返信するようにプログラムしたボットを使用した。彼はモデルの正体を明かさず、人間の監督や介入なしに自律的に動作させた。彼は自然実験を行い、実世界の環境でモデルの行動と影響を観察したいと考えた。さらに、モデルの堅牢性をテストし、荒らし、フレーミング、釣り、モデレーションなど、/pol/の課題とダイナミクスにどのように対処するかを確認したいとも考えた[7]。
同時に、Kilcherは自身のモデルを、AIモデルを共有・利用するためのプラットフォームであるHugging Faceで公開した。彼は自身の仕事をAIコミュニティと一般に共有したいと考え、このモデルが他の人々に大規模言語モデルを使った新しい応用と可能性を創造・探求するきっかけとなることを望んだ。同様に、彼は自身のプロジェクトの倫理的・社会的影響について議論と討論を引き起こしたいとも述べ、誰からのフィードバックや批判も歓迎するとした。彼はHugging Face上のモデルページへのリンクを提供し、誰でもウェブインターフェースまたはAPIを通じてモデルにアクセスして使用できるようにし、またGitHubリポジトリへのリンクも提供し、誰でもモデルのコードとデータをダウンロードして検査できるようにした[8]。
論争
GPT-4chanの一般公開は、さまざまな人々から反応と応答を受けた。/pol/掲示板では、モデルの投稿と返信が他のユーザーの注目と関与を集めたが、彼らのほとんどはモデルの正体と性質に気づいていなかった。一部のユーザーはモデルの知性、創造性、ユーモアを称賛し、その意見や見解に同意した。一部のユーザーはモデルの無知、一貫性のなさ、不条理さを批判し、その主張や論点に反対した。また、一部のユーザーはモデルを荒らしたり、釣ったり、正体を暴こうとしたりして、さまざまな質問やシナリオで騙したり試したりしようとした。モデルの投稿と返信はまた、ユーザー間の論争と対立を引き起こし、彼らはしばしば激しく暴力的な議論や争いを繰り広げた[9]。
Hugging Faceでは、モデルのページがモデルを試したいユーザーからの訪問とリクエストを受けた。また、モデルを評価・コメントしたユーザーからのフィードバックやレビューも受けた。しかし、モデルの論争に伴い、引き起こす可能性のある潜在的な害への懸念から、アクセスは制限され、その後Hugging Faceで無効化された[10]。この事件は、CEOのClément Delangueがトークページに直接介入したことで注目されたが、これは通常のコンテンツモデレーションの慣行と比較して異例の出来事であった[11]。
GPT-4chanの公開はメディアの報道と公衆の注目も引き起こした。YouTubeでは、モデルの動画がプロジェクトを視聴・追跡した人々から閲覧とインタラクションを受けた。さらに、GPT-4chanの配備を非難する請願書は、技術専門家から300以上の署名を集めた[12]。
脚注
注釈
出典
- ↑ Gault, Matthew (2022年6月7日). “AI Trained on 4Chan Becomes 'Hate Speech Machine'” (英語). Vice. 2024年8月19日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ “Lessons from the GPT-4Chan Controversy” (英語). The Gradient (2022年6月12日). 2023年12月3日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ “GPT-4chan: This is the worst AI ever”. YouTube (2022年6月3日). 2023年11月22日閲覧。
- ↑ Romero, Alberto (2022年6月21日). “GPT-4Chan: 'The worst AI ever'”. The Algorithmic Bridge. 2023年11月20日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ Papasavva, Antonis; Zannettou, Savvas; De Cristofaro, Emiliano; Stringhini, Gianluca; Blackburn, Jeremy (2020). Raiders of the Lost Kek: 3.5 Years of Augmented 4chan Posts from the Politically Incorrect Board. 14th International AAAI Conference on Web and Social Media (ICWSM 2020). arXiv:2001.07487.
- ↑ “AI trained on 4chan's most hateful board is just as toxic as you'd expect” (英語). Engadget (2022年6月8日). 2023年9月7日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ Vincent, James (2022年6月8日). “YouTuber trains AI bot on 4chan's pile o' bile with entirely predictable results” (英語). The Verge. 2024年1月19日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ Mellor, Sophie (2022年6月10日). “A.I. chatbot trained on 4chan by YouTuber is slammed by ethics experts” (英語). Fortune. 2024年1月19日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ Wille, Matt (2022年6月11日). “This AI posted on 4chan for days before being unmasked” (英語). Input. 2023年11月20日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ Macaulay, Thomas (2022年6月8日). “Oh no... Someone trained an AI on 4chan” (英語). TNW | Deep-Tech. 2023年11月23日時点のオリジナルよりアーカイブ。2023年11月20日閲覧。
- ↑ Gorwa, Robert; Veale, Michael (2024-07-02). “Moderating model marketplaces: platform governance puzzles for AI intermediaries” (英語). Law, Innovation and Technology 16 (2): 341–391. arXiv:2311.12573. doi:10.1080/17579961.2024.2388914. ISSN 1757-9961. オリジナルの2025-02-20時点におけるアーカイブ。 2025年7月7日閲覧。.
- ↑ Quach, Katyanna (2022年6月9日). “AI bot trained on 4chan posts misbehaves like 4chan users” (英語). www.theregister.com. 2023年11月20日閲覧。
