Shunta Saito @mitmul

Researcher at Preferred Networks. Ph.D. in Engineering. Involved in developing @plamollm, creating applications with it, with a background in computer vision. mitmul.github.io Tokyo, Japan Joined August 2010

Tweets

8K
Followers

2K
Following

999
Likes

10K

Daisuke Okanohara / 岡野原大輔 @hillbig

6 days ago

『ヒトとAI』（岩波新書）が出版され、多くの方に読んでいただいています。ありがとうございます。本書は、AIについて考えることを通じて、人間とは何かを見つめ直そうとした本です。例えば、感情や死は、人間にとってどのような役割を果たしてきたのでしょうか。感情は、内的かつプロセス的な報酬として捉えることができます。現在のAIで用いられる、外部から結果に応じて与えられる報酬とは異なり、行動の過程で継続的に働き、学習に大きな役割を果たしています。死は、個体が、たとえ優秀であっても局所最適にとどまり続けることを防ぎ、世代交代によって種全体を更新する仕組みでもあります。こうした仕組みは、現在のAIには十分に実装されていませんが、将来的に取り込むことは可能です。学習や適応に有利であれば、むしろ積極的に導入されていくでしょう。ただし、その方向にAIが進化したとき、私たちはそれを現在の道具と同じように扱えるのでしょうか。必要になれば、簡単に電源を切れる存在であり続けるのでしょうか。ここには、安易に踏み越えるべきではない境界線があるように思います。 AIの進展の中で、AIを鏡として、人間の側を考え直した本です。ぜひお読みください。

3 41 263 26K 92

View Details

Shunta Saito @mitmul

a week ago

秋葉さんがミッションインポッシブルに出てきそうな感じになってる…

いもす @imos

a week ago

こちらが今年のICFPCのコーディング環境となります（XREAL One Pro + mutalk 2）

2 145 889 118K 160

1 3 8 6K 1

View Details

いもす @imos

a week ago

こちらが今年のICFPCのコーディング環境となります（XREAL One Pro + mutalk 2）

2 145 889 118K 160

View Details

Bunkamuraル・シネマ渋谷宮下 @BunkamuraCinema

a week ago

⋰⋰⋰予告編到着🍚🌾🌏 吉開菜央監督作品『まさゆめ』 ———————————– 「映画という夢をつくりながら、夢からさめていく」母の死と、自らの病に向き合いながら、ひとりの映像作家が自分にカメラを向ける。生活と併走しながら作られた映画。食べて、手を動かし、そして眠って、生きているという感覚を、問いほぐしていく─ Bunkamuraル・シネマ渋谷宮下にて 𝟴.𝟮𝟴 𝙛𝙧𝙞. ロードショー @dancingfilms

0 23 121 15K 33

View Details

Preferred Networks @PreferredNetJP

2 weeks ago

【当社グループを装った採用勧誘にご注意ください】最近、当社および当社グループ会社の社名や架空の役職名を騙り、無関係の第三者が採用勧誘を行っている不審な連絡が複数確認されています。十分にご注意ください。 preferred.jp/ja/news/pr2026…

0 44 73 20K 12

View Details

NOZAWA, Kento @nzw0301

2 weeks ago

事後学習の内容をお話します。何卒🙏

NOZAWA, Kento @nzw0301

4 weeks ago

PLaMo 3.0 Primeが最近リリースされたので、またやります。| PFN LLM オープンハウス preferred-networks.connpass.com/event/399201/

0 0 6 4K 0

0 2 18 3K 0

View Details

Shunta Saito @mitmul

2 weeks ago

AirPodsのイヤーチップがとんでもない臭いになっていることに気づき、 ̶老̶k̶　夏の到来を感じた。

0 0 1 404 0

View Details

Daisuke Okanohara / 岡野原大輔 @hillbig

2 weeks ago

今回、Preferred Networks（PFN）は、Noetora（以下、ノエトラ）が進めるフィジカルAI向け国産マルチモーダル基盤モデルの開発に参画します。また、私自身もNEDO事業における共同研究開発統括責任者としてノエトラのモデル開発に携わるとともに、産総研が主体となって実施する探求枠において、テクニカルディレクターの一人として研究開発を進めます。その背景と今後について説明します。これまでPFNでは、フルスクラッチでPLaMoを開発してきました。日本国内で、データ設計、学習プロセス、モデルに対するコントローラビリティを確保しながら、AIの開発と利用を進めることが重要だと考えているためです。現在では企業での利用に加え、ガバメントAI「源内」をはじめ、行政・公的機関における活用も進んでいます。しかし、生成AI開発をめぐる競争は激しく、競争力のある製品を開発し続けるには、大量の計算資源を安定的に利用できる環境が欠かせません。さらに、LLMやエージェント向け開発に加え、画像、音声、動画、触覚などを扱うマルチモーダル化やフィジカルAIの実現には、新しいモデルや学習手法が必要になると考えています。そのため、技術開発だけでなく、データの収集・設計や評価手法の構築にも取り組む必要があります。こうした背景から、ノエトラでは、国内でのモデル開発能力を持つメンバーが結集して基盤モデルを開発します。また、これと連携する形で産総研が国内外の数十チームと研究開発テーマに取り組んでいきます。計算資源として、すでに国内にある計算資源を活用するとともに、国内最大規模のVera Rubin世代の GPU 27500基からなる計算基盤を構築していき、それを活用したモデル開発を進めていきます。 PFNからも、事前学習、事後学習、研究開発を担当する多くのメンバーがノエトラに参加し、PLaMoの開発を通じて培った技術や成果を取り込んでいきます。他の参画企業が持つ技術や知見とも融合し、一社だけでは難しい開発を進めます。私は開発戦略チームに所属し、他組織から参加するリーダーたちと連携しながら、全体の開発方針や設計を検討します。また、研究開発を行う探求枠においてもテクニカルディレクターの一人として研究テーマの設定や推進に関わります。一社では難しい計算資源の確保や基盤モデルの開発、評価技術の開発、研究開発では協調し、その成果を用いた製品化や社会実装では各社が競争します。共通基盤を協調して引き上げ、その上で多様な製品やサービスを競い合う関係です。 PLaMoの開発と提供は今後も継続します。ノエトラで開発される、より競争力の高い基盤モデルをもとに、PFN独自のデータ、学習技術、製品化技術を組み合わせ、PLaMoをはじめとするさまざまな製品へ応用していきます。 === 現在のAIの状況の中で、日本がこの取り組みを進める意義はあるのでしょうか。一つには、米国と中国がAI開発を強力に主導する中で、第三極となる選択肢をつくりたいという思いがあります。新たな選択肢を提供することは、世界のAI開発や供給構造の安定化にもつながります。また、AIにどのような価値観や考え方を反映させるかについて、世界中が一つの方向へ収束する必要はありません。日本を含むさまざまな国や地域の考え方を反映できることが重要です。こうした多様性が、世界全体を前に進める上でも大切だと考えています。もう一つの重要なテーマが、フィジカルAIです。物理世界でAIを活用することの重要性は広く認識されていますが、技術面でも実用化の面でも、多くの課題が残されています。だからこそ、今から本格的に開発を進め、実用化の段階で重要な役割を果たせる状態をつくる必要があります。日本が強みとしてきた産業や技術領域を、AIによってどのようにさらに強化できるかは、今後の大きなテーマとなっています。一方、フィジカルAIに到達する過程でも、汎用的なAI能力の向上は重要です。フィジカルAIは現在のAI開発と切り離された場所に突然現れるものではなく、現在の技術の延長線上に実現されると考えています。これまでのAI開発も、多くの小さな改善の積み重ねによって進展してきました。AI技術には高い汎用性があり、ある分野の成果が別の分野のブレークスルーにつながることもあります。そうした積み重ねの中から、Transformerや推論技術のように、分野を横断して大きな飛躍を生み出す技術も現れてきました。今後も、このような変化をもたらす技術の登場が期待されていますし、私たちもここに貢献したいと考えています。 === この取り組みの重要性を認めたとして、現在の国内の開発力で、世界と競争できるモデルをつくることは可能なのでしょうか。私たちが優れた人材を集めてチームをつくり、一定の競争力のある規模の計算資源を確保し、データセットを設計したとしても、世界の先行モデルと競争することは容易ではありません。だからこそ、あらゆる領域で同じ競争を続けるのではなく、日本が得意とする領域へ重点を移し、そこで能力を伸ばすことが重要だと考えています。フィジカルAIでは、現場から得られるデータが必要だといわれます。しかし、単に学習用データを集めることでだけではなく、現場の問題設定を理解し、何を評価すべきかを定め、その結果を開発へ反映する必要があります。例えば、ベンチマークの設計は重要な課題です。現在のAI開発では、適切に測定できる能力は大きく伸ばせる可能性があります。一方、現場で求められるのは、単一のベンチマーク上の性能ではなく、安定的に生産性や品質を向上させることです。現場で本当に必要な能力を定義し、測定する必要があります。私自身、PFNの事業を通じて、さまざまな産業領域に携わってきました。その中で、現在の技術でつくれる製品と、現場で必要とされる製品との間に、大きなギャップがあることも見てきました。現場からのフィードバックを開発に反映し、このギャップを埋め続けることが重要です。技術的な観点でいえば、将来のAIには、知識や動作を事前に学習しておくだけでなく、その場の環境に適応しながら学習する能力が必要です。その一部はIn-Context Learningとして実現されていますが、さらに伸ばす必要があります。現実世界では、まったく同じ状況を再現することはほぼ不可能です。個々の環境に適応しながら能力や安定性を向上させることが必要です。これは継続学習とよばれる大きな課題分野です。一方、現在の継続学習には、新しいことを学ぶことで過去の能力が失われたり、モデル更新によって想定外の挙動が生じたりする問題があります。これらを解決するには、学習の仕組みをより深く理解し、その理解に基づいてモデルを更新する必要があります。完全な理解が難しくても、少なくとも挙動を評価し、制御できなければなりません。また、マルチモーダルの統合も大きな課題です。現在の枠組みの延長線上で解けるのか、それとも全く新しい構想・処理が必要なのかは大きなテーマとなります。さらに、これからAIが取り組む問題の多くは、データを取得できない、あるいは取得に大きなコストがかかるものになります。現在のAIが大きく成功しているのは、膨大なデータを集めたり、強化学習などによって大量の試行錯誤を行ったりできる領域です。代表例がソフトウェア開発です。ソフトウェア開発では、学習や評価のデータを大量に生成でき、仮想環境で安全かつ低コストに試行錯誤できるため、AIの活用が急速に進んでいます。これに対して物理領域では、データ収集が難しく、安定的かつ安全に試行錯誤を繰り返すことも容易ではありません。そのため、データ生成が重要な役割を果たしていくとおもわれます。さらに、動画生成モデルなどを発展させた世界モデルが、大規模なシミュレーターとして機能する可能性があります。また、仮想世界で行動するエージェントが徐々に活動領域を広げ、実世界へ進出してくることも考えられます。 === 今回、大規模な取り組みを始める一方で、その成果が外から見える形になるまでには、一定の時間がかかります。挑戦的な技術を実際のモデルへ組み込む際には、既存技術との整合性や、大規模化した際の安定性など、多くの課題が生じます。また、計算資源の整備にも時間を要します。初年度から、PFNをはじめとする国内で実績をあげてきた開発チームが集結し、これまで培ってきた技術や能力を生かし、具体的な成果を出していくことを目指します。しかし、新たな研究開発の成果が、モデルや製品としてリリースされるまでには、一定の時間が必要だと考えています。進展が非常に速いAI開発において、この期間はとてつもなく長いものです。だからこそ、方向性を誤らないよう中長期的な視点を持ちながら、その間に起きる技術や環境の変化へ迅速に対応しなければなりません。研究成果を開発へ取り込み、開発上の課題を再び研究へ戻していくという、研究と開発の連携が大きなテーマになります。実験的なモデルを数多く開発し、社会実装から得られるフィードバックを次の研究開発へ反映することも必要です。今回、大きな支援を受けて開発を進める責任を自覚し、短期的な成果の創出と、中長期的な技術基盤の構築を両立させていきたいと考えています。 === 今回の開発に興味をお持ちの方は、ぜひお声がけください。 PFNを通じてノエトラのモデル開発に参加したい方や、PFNにおいて、その成果の社会実装に取り組みたい方を募集しています。採用情報はスレッドに掲載します。

10 123 539 88K 184

View Details

Preferred Networks @PreferredNetJP

2 weeks ago

【発表】PFNはNoetraに出資し、同社が推進するフィジカルAI向け国産マルチモーダル基盤モデルの開発に参画します。 preferred.jp/ja/news/pr2026…

0 73 310 102K 64

View Details

Preferred Networks @PreferredNetJP

3 weeks ago

ガバメントAI「源内」の国産ガバメントクラウド上で、PFNがフルスクラッチで開発する国産生成AI基盤モデル PLaMo™ (@PLaMoLLM) の試用が始まります。詳細はデジタル庁の発表をご覧ください: digital.go.jp/news/7eef939d-…

0 4 34 5K 5

View Details

Shunta Saito @mitmul

4 weeks ago

なるほどね unkotoshitai.com

0 0 1 260 0

View Details

Preferred Networks @PreferredNetJP

4 weeks ago

【イベント】7/30 (木) にPFNが開発する大規模言語モデルPLaMo™に関する技術セミナーを開催します！先月リリースしたPLaMo 3.0 Primeを中心に、事前・事後学習の手法や実装上の工夫、活用事例、日本語LLMの設計思想などをご紹介します。セミナー後は開発メンバーとのフリートークも予定しています。ぜひご参加ください！ preferred-networks.connpass.com/event/399201/

0 10 25 6K 10

View Details

Preferred Networks @PreferredNetJP

4 weeks ago

🇮🇳🇯🇵デリーで開催された日印経済フォーラムにPFNからCFOの堅山が参加しました。「AI分野における協力に関する日印共同声明」において、日本とインドとのAI技術スタックの包括的な協力関係の構築を目指すことに合意。PFNでも人材交流、技術開発を検討していきます。

0 2 10 3K 1

View Details

Preferred Networks @PreferredNetJP

a month ago

【発表】PLaMo翻訳の利用上限を大幅に引き上げたProプランを提供開始しました。加えて、Liteプランのファイル翻訳件数上限も大きく引き上げました。ライブ音声翻訳と英文添削も新たに追加され、コスト効率の高い翻訳特化型の国産LLMで日々の翻訳を強力にサポートします。 preferred.jp/ja/news/pr2026…

0 41 83 50K 20

View Details

Preferred Networks @PreferredNetJP

a month ago

【受賞】本日、アジア太平洋機械翻訳協会(AAMT) 開催の表彰式で、PFNの「PLaMo翻訳」のチームが2026年AAMT長尾賞の表彰を受けました。基盤モデルから翻訳特化型モデル、実運用サービスに至るまでを自社技術で構築している点が高く評価されました。 preferred.jp/ja/news/pr2026…

0 23 72 18K 7

View Details

おおた @ota42y

a month ago

設定ファイルがちょい変だったのでハマってた " PLaMo 3.0 Prime を Hermes Agent から使うときのハマりどころ qiita.com/ota42y/items/1… #Qiita

0 3 6 1K 1

View Details

Daisuke Okanohara / 岡野原大輔 @hillbig

a month ago

PLaMo 3.0 Primeの提供を開始しました！主要ベンチマークで大幅な性能向上を達成し、同価格帯の商用モデルやオープンモデルと比較しても、日本語指示追従、コーディング、ツール利用などで、匹敵、上回る性能を実現しています。さらに256K コンテキスト長への対応してます。ぜひお試しください！

Preferred Networks @PreferredNetJP

a month ago

【発表】国産フルスクラッチ開発の生成AI基盤モデルPLaMo 3.0 Primeの提供を開始しました。 1⃣API経由またはオンプレで利用可能 2⃣複雑なタスクに対応するReasoningモデル、応答速度の速いNon-reasoningモデルを提供 3⃣高い日本語性能とコストパフォーマンスを両立

15 397 1K 369K 563

4 56 230 33K 44

View Details

Shunta Saito @mitmul

a month ago

PLaMo APIに無料プランが登場しているのに注目👀 plamo.preferredai.jp/api

Preferred Networks @PreferredNetJP

a month ago

15 397 1K 369K 563

1 39 179 32K 93

View Details

Preferred Networks @PreferredNetJP

a month ago

【発表】国産フルスクラッチ開発の生成AI基盤モデルPLaMo 3.0 Primeの提供を開始しました。 1⃣API経由またはオンプレで利用可能 2⃣複雑なタスクに対応するReasoningモデル、応答速度の速いNon-reasoningモデルを提供 3⃣高い日本語性能とコストパフォーマンスを両立 4⃣コンテキスト長を64kから256kに拡張 5⃣危険情報に対する安全性向上 preferred.jp/ja/news/pr2026… AIエージェントや企業の実務利用を想定した機能強化がされていますのでおぜひ試しください

15 397 1K 369K 563

View Details

PFN Tech @preferred_jp

a month ago

【ブログ】PLaMo 3.0 Primeを公開しました。日本語性能とコストのバランスを追求しつつ、強化学習による推論能力向上、256Kコンテキスト対応、構造化出力サポートを実現。同性能帯/同価格帯のモデルとの比較ベンチマークも掲載しています。ぜひご覧ください👇 tech.preferred.jp/ja/blog/plamo-…