yonob @clfgene

Kaggle（2x Master）で培った経験が、Sansanの実務でLLMファインチューニング＆推論の精度向上・コスト削減にどう直結したかを、リアルな思考法と成果で解説。 Kaggleの「実験感覚」が現場を劇的に変える実践知が詰まってます。 
・Kaggle LMSYSコンペでの実験管理シートから得た「精度の肌感」とLoRAファインチューニング・vLLM推論の即戦力手法
・社内自作レポジトリ「randd_llm_trainer」のCLI活用で、学習データ収集→ファインチューニング→推論までをワンコマンドで爆速化する方法
・SageMaker SpotTrainingでコスト70%削減しながら並列検証を実現し、提案→検証→リリースのサイクルを高速回転させるTips 
Kaggle知見を武器に自社LLM検証基盤をゼロから作ったり、プロダクトのAI機能提案をリードする「思考法」が身につき、早期に上司・ステークホルダーを説得できるレベルまで引き上げられます。 
一般論や理論じゃなく、Sansan R&Dの実務家が「実際にプロダクト改善で成果を出した」具体事例・ツール・ビフォーアフターを公開してる実践度の高さ。 speakerdeck.com/sansan_randd/k…

MM-Embed: Universal Multimodal Retrieval with Multimodal LLMs (ICLR2025) ・マルチモーダルLLM (MLLM) を使った情報検索手法の提案 ・テキスト+画像のクエリを同一の意味空間に埋め込むため、対照学習の負例を(1)意味は近いがモダリティが異なる候補 (2)モダリティは一致しているが順位が低い候補にする手法 Modality-Aware Hard Negative Miningを提案 ・上記の手法で学習したモデルMM-Embedで候補を絞った後に、LLaVa-NextによってゼロショットでReranking ・対照学習での負例の選び方の良い勉強になりました。気づいていなかったのですがNVIDIAさんはこの他にも「NV-Embed」や「Omni-Embed-Nemotron」など情報検索の研究にも精力的に取り組まれているようです paper: arxiv.org/abs/2411.02571 model: huggingface.co/nvidia/MM-Embed

keyboard_arrow_left Previous keyboard_arrow_right Next

Gemini 3.5 Flash, ﾒﾁｬ汚い手書き文字OCR界隈としては最強性能です。新規検証しました。 nyosegawa.com/posts/japanese…

Google Gemini @GeminiApp

a month ago

Gemini 3.5 Flash is here and it's our best model yet for getting things done quickly and efficiently. Whether you need help with everyday tasks or multi-step creative projects, Gemini 3.5 Flash navigates real-world complexity to help you take action. #GoogleIO

116 168 1K 729K 147

Transformer、強さの正体は「簡潔さ」　ICLR 2026の有力論文を一挙深掘り xtech.nikkei.com/atcl/nxt/colum…

MoshiRAG: Asynchronous Knowledge Retrieval for Full-Duplex Speech Language Models ・Moshiを開発したKyutaiが出したpreprint ・MoshiにRAGを搭載することによって事実性を向上させる ・KAMEとの違いは外部知識の呼び出し方で、KAMEは何度もLLMを呼び出すのに対し、MoshiRAGは知識の補完が必要な部分をとして出力しておき、検索が完了したらを埋めにいく。1度だけの検索で対応可能で、MoshiRAGの外部知識としてLLMを使うこともできる。 ・KAMEもMoshiRAGも基本的なアーキテクチャがほとんど同様である点が面白いと思いました ・ユーザー割り込みへの対応能力を「無関係な発言や世間話の会話」が含まれる学習データを使うことで向上させている点も面白いです paper: arxiv.org/abs/2604.12928 code: github.com/kyutai-labs/mo…

keyboard_arrow_left Previous keyboard_arrow_right Next

AI本部の宮澤 (@kzykmyzw) が社内勉強会で発表した資料「Vision Banana: Image Generators are Generalist Vision Learners」を公開しました。 画像生成モデルの指示チューニングにより、様々な視覚認識タスクで専用モデルに匹敵する性能が得られることを示した論文の紹介です。speakerdeck.com/kzykmyzw/visio…

keyboard_arrow_left Previous keyboard_arrow_right Next

画像生成モデルがVisionタスクの汎用性も持つよ&むちゃ強いよっていう研究で、内容がすごすぎて横転 SAM3, Depth Anythingを上回るらしい arxiv.org/abs/2604.20329… 4/22 by Google Deepmind

OpenAI の 3 つの音声モデルが API 経由で使えるように GPT-Realtime-2 は割り込み対応、Context Window 128k 対応など。GPT-Realtime-Translate はリアルタイム翻訳。GPT-Realtime-Whisper は低遅延の文字起こし、字幕や議事録に。ChatGPT の音声機能に統合される予定。

類似語検索を超高速に行う SoftMatcha 2 の解説資料を作成しました。トップ国際会議 ICML にも採択されています。 全 67 ページで分かりやすく解説しましたので、ぜひお読みください。 speakerdeck.com/e869120_sub/so…

keyboard_arrow_left Previous keyboard_arrow_right Next

最尤推定などの基礎から、VAE・GAN・Flowモデル・Diffusionモデル、Transformer/GPT系言語モデルまでを丁寧に解説。 さらにInstruction Tuning（RLHF/DPO）やアライメントの勘所まで、生成モデル全体を俯瞰できる2025年講義資料です。 ・生成モデルの基礎固め：確率分布・最尤推定・GMMから始まり、VAEの変分下界やDiffusionのノイズ追加/除去プロセスを数式と図でクリアに理解 ・深層生成モデルの比較：GANの不安定性、Flowモデルの可逆性、Diffusionの画質優位性（Stable DiffusionでのVAE+Diffusionハイブリッドなど）と2025年現在のデファクトスタンダード ・実践的なアライメント手法：RLHF vs DPOの違い、好みデータ活用の効率化、Hugging FaceでのBERT/GPT活用例や不適切出力防止のsemi-supervisedアプローチまで 基礎から最新トレンド（Diffusion支配、DPOの台頭、alignmentの課題）までバランス良く深掘りしつつ、図解と実例が豊富で「読んで終わり」にならない実践寄りの構成になっています。 speakerdeck.com/takahashihiros…

What if your LLM could verify its own reasoning with near-human precision? Stanford & UC Berkeley researchers present LLM-as-a-Verifier: a general-purpose framework that gives fine-grained feedback by breaking tasks into smaller criteria, scoring with higher granularity, and rechecking multiple times. Result: State-of-the-art performance on Terminal-Bench (86.4%) and SWE-Bench Verified (77.8%) — outperforming Claude Opus 4.6, GPT 5.4, and Gemini models. LLM-as-a-Verifier: A General-Purpose Verification Framework Blog: llm-as-a-verifier.notion.site Code: llm-as-a-verifier.github.io Our report: mp.weixin.qq.com/s/wmjQ2Kxw7Qdw… 📬 #PapersAccepted by Jiqizhixin

We’re excited to introduce KAME: Tandem Architecture for Enhancing Knowledge in Real-Time Speech-to-Speech Conversational AI, accepted at #ICASSP2026! 🐢 Blog pub.sakana.ai/kame/ Paper arxiv.org/abs/2510.02327 Can a speech AI think deeply without pausing to process? In real conversation, we don’t wait until we’ve fully worked out what we want to say—we start talking, and our thoughts catch up as the sentence unfolds. Fast speech-to-speech models achieve this, but their reasoning tends to stay shallow. Cascaded pipelines that route through a knowledgeable LLM are smarter, but the added latency breaks the flow—they fall back to "think, then speak." In our new paper, we propose a way to break this trade-off. We call it KAME (Turtle in Japanese). A speech-to-speech model handles the fast response loop and starts replying immediately. In parallel, a backend LLM runs asynchronously, generating response candidates that are continuously injected as "oracle" signals in real time. This shifts the AI paradigm from "think, then speak" to "speak while thinking." The backend LLM is completely swappable. You can plug in GPT-4.1, Claude Opus, or Gemini 2.5 Flash depending on the task without changing the frontend. In our experiments, Claude tended to score higher on reasoning, while GPT did better on humanities questions. Try the model yourself here: huggingface.co/SakanaAI/kame

ChatGPTに論⽂を読ませる際、参考になるスライド。 スライド作者が試行錯誤で得た知見がまとまっている。 ChatGPTで論⽂は読めるのか speakerdeck.com/spatial_ai_net…

keyboard_arrow_left Previous keyboard_arrow_right Next

arxiv.org/abs/2604.17435 音声翻訳で、笑い声や泣き声のような非言語発声を再現する手法 扱う対象はHappy/Sad/Angry/Laugh/Cryの5種 感情ごとにエキスパートを用意して、状況に応じてブレンドするっぽい

各社社長が「AI エージェントやるぞ」と言ってきて困っている皆さんへ送る、最新の AI エージェントサーベイ全まとめを公開します😤 🤖 LLMエージェントの【構築・協調・進化】を軸に、その方法論、多様な応用、ツール、課題までを網羅的に整理しました。全 44 ページ！ speakerdeck.com/shunk031/large…

論文が #ACL2026 main に採択されました！ 言語モデルは逆検索ができない（逆転の呪い）、と佐藤竜馬さんが紹介（joisino.hatenablog.com/entry/physics）されてる件で、 「ロイドはアーニャの父である」と学習したら「ロイドは誰の父か」には回答できるが「アーニャの父は誰か」は回答できない傾向があると先行研究でも知られていました。 つまり自己回帰モデルは語順を逆向き再生に弱いからなんですが、今回の論文で確認したのは、実際に父⇔娘の意味関係は理解できていて、「アーニャは誰の娘か」には回答できないが「ロイドの娘は誰か」には回答できるってことです。拡散モデルは逆順でも問題なしです。 Memorization, Emergence, and Explaining Reversal Failures: A Controlled Study of Relational Semantics in LLMs arxiv.org/abs/2601.02931

keyboard_arrow_left Previous keyboard_arrow_right Next

今日の社内勉強会で紹介したやつ。手法はシンプルで汎用的なのでLLM-as-a-Judgeする人は読んでおくと良さそう。 llm-as-a-verifier.notion.site

部長を10年やって分かった。 一緒に働きたい部下・働きたくない部下。 🙆働きたい部下 ・報連相が早くて正確 ・結論からシンプルに話せる ・約束と期限を守る（守れない時は事前に言う） ・言われたこと＋αで返す ・素直に受け止めてすぐ行動する 🙅‍♂️働きたくない部下

へーー、って読んでたら末尾にオチがあってよかった 設計書・コード・テストを全部AIに書かせて半年間開発してみたよ｜茂呂 範 zenn.dev/nttdata_tech/a…

✨NTT DATA TECH 人気記事✨ #生成AI 時代に改めて考えたい 「 #ベクトル検索 は本当に不要なのか？」 RAGや全文検索との違い、前提条件を整理しながら 使うべきケース・そうでないケースを技術目線で説明しています🧠 ▼記事はこちら zenn.dev/nttdata_tech/a… #NTTDATATC #RAG #LLM #検索技術