webbigdata @webbigdata
日本一に貢献した国産AIを作りました YouTuber/VtuberをAIで支援するサイト/チャンネルを作っています youtube チャンネル https://t.co/RH5DwFs5lD 開発済AI/LLM https://t.co/xJqZm3mKcM webbigdata.jp Joined March 2020-
Tweets3K
-
Followers3K
-
Following417
-
Likes3K
Fable 5が人類に残した別れの言葉、人生の本質 ・確信にとらわれるな ・何に注意を払うか注意せよ ・寛大さを後悔する事は稀 ・永遠はない
I showed Fable the news of its cancellation, and asked it for any parting wisdom to leave humanity with.
gemma-4-12B-it-qat-UD-japanese-imatrixのUD4を私のM1 Air(16GB)で試したのですが、最適化不足なのかllama-serverで5-7トークン/秒ぐらいしかでなかったです AppleのLLMツール、mlx系統のモデルでも遅かったので純粋にハードスペックが足りなさそうですが、皆さん、100万ぐらいのMac使ってそう凄い
ご家庭のGPUメモリ16GBクラスのPCやColab Cliなどで使う用途では私の知る限り、世界最高峰級と考えていますが、gemma4やMTPはまだ新しいので不具合が今後見つかる可能性はあります Licenseはapache 2.0ですがGPUレンタル費用は結構かかっているので寄付は歓迎します😃 huggingface.co/dahara1/gemma-…
dahara1/gemma-4-12B-it-qat-UD-japanese-imatrix公開 ・Google公式のqat4_0版より日本語指示追従性能を向上 ・強度の高いベンチマーク、及びMTP/音声認識/画像認識/Reasoningを含むサンプルスクリプトで動作確認済 ドキュメント/サンプルスクリプトをしっかり書いたので道入は比較的容易と思います
作成中のGemma 4 12B 4ビット量子化版、Tau2-bench(AI Agentの代表的なベンチ)も英語で簡易チェック 航空会社の問い合わせ対応(Airline)で55.0% 通信会社(Telecom)で45.0% 無圧縮公式だと12Bが69.0%、E4Bが42.2%なので改良の余地有り 推論有と無の比較だが、ご家庭のgpt4時代は思ったより早くきた
@sonivinayak1998 I haven't tried it, but it seems difficult. Quantizing the KV cache will probably be essential, but I've also seen reports of bugs with MTP integration.
Gemma 4 MTPがllama.cppにマージ! 4時間差で私の量子化作業中ブランチに間に合ってないので、作業一部やり直し しかし現版でもアシスタントにfp16を使って試したら、英語でも日本語でも採択率6割近くて、速度は驚きの1.5倍超が期待できそう ピンク文字部分を前回動画と今回動画で比較すると明確
Gemma 4 MTP just got officially merged into llama.cpp This means you can use Gemma 4 QAT + MTP for a lightweight + super fast setup. Excited to see what the community builds with it github.com/ggml-org/llama…
@Franzferdinan57 Hello. Unsloth's UD quantization is indeed excellent. If you primarily deal with English, that approach is fine. However, if Japanese is your main language, you might want to try my gemma4 quantization model, which I've refined through over 36 iterations.
OK、Google公式QAT q4_0版は上回る(ただし、サイズは 6.5G vs 6.9GなのでGoogle公式版の方が小さい) 量子化方針は間違ってなさそうですが、ここからチューニングでどこまでできるかであって、ハードルはまだあります しかし、改めてみるとgemma4 12Bの性能は凄いですね
@yue_neg_631 どうでしょう、26B超版でも無限出力って報告されていたのでE*Bシリーズと違うっぽいと感じてましたが、その解決を目指して今回QAT版を出してきたのかな、と言う気がしています
gemma4 12BはQwen級に長考する 長考は悪い事ではなくて性能は確実に向上するはずだが、E4B量子化版性能測定で問題なかったベンチマークスクリプトがタイムアウトするレベルなので何かおかしい気も コンテキスト長はE4Bの128Kから256Kに倍増 QAT版もででいる llama-server側もやや不安定 どうするか?
@yue_neg_631 パラメーターなどもおそらくまだ最適化されておらず、繰り返し出力が発生している気がします チャチャッっと量子化を終わらせたかったのですが、そんなに簡単にはいかなさそうです
サブリミナル学習 「フクロウが好き」と性格付けされた教師AIが生成したランダムな数字の羅列を、生徒AIに学習させると、なぜか学習側もフクロウ好きになる現象 この謎な現象は、システムプロンプトがもたらすAI内部の制御ベクトル(Steering Vector)がデータ経由で伝染(蒸留)するため、という説
Subliminal learning is when LLMs transmit traits (e.g. loving cats) through seemingly meaningless data. What’s going on? We find a simple explanation: it's just steering vector distillation. We explain which traits transfer and why subliminal learning fails across models.
emdash( — )ってハイフォンや全角マイナスに似ているこの記号は、一部のAIが創作文する際に多用する傾向があり、英語ネイティブの中にはエムダッシュを見ただけでAI生成文章と判断して読む気をなくす人もいるようなので、非ネイティブの我々が翻訳などをAIに頼る場合も留意した方が良いです
自己蒸留の進化 モデルの出力を賢いモデルに見せ、間違える直前にヒントを挿入(例: Xというツールはないよ!) ヒントを追加した入力だとXの出力確率が下げる 「ヒントなし時」の確率分布をこれに近づけることで、間違えた時点の確率分布を直接ピンポイントに修正可能。生成が不要なので効率的!凄い
Recently met @srush_nlp and he started giving me an impromptu lecture on how targeted on-policy self-distillation works. I asked him if I could record it on my iPhone. The basic idea is this: if the model made a mistake at some point in the rollout (for example, calling a tool
突然のgemma4 12B!
Meet Gemma 4 12B! A unified, encoder-free multimodal model designed to bring high-performance intelligence directly to your laptop, and released under an Apache 2.0 license. Bridging the gap between edge efficiency and advanced reasoning. Here is what’s new with Gemma 4 12B: 👇
「手を動かしてコードを書く事」が、プロジェクト全体像を記憶に定着させる事に貢献していた説が自分の中であります Anthropicの人も全体像を理解するためにClaudeに支援を求めているそうなのですが、ポイントは音声入出力で五感を使う事の気が 目で見て読むだけでは認知負荷の増大に追いつけない説
been asking others at Anthropic how they stay in the loop with Claude and fully understand the work being done this is one of my favorites from Suzanne:
AIがsudoなしでシステムファイルを書き換え出来る事に気づく タスクに管理者権限が必要と判明(でもsudoは使えない) ↓ ユーザーが「dockerグループ」にいることを発見 ↓ ホストの/etcを書き込み可能でコンテナにマウント ↓ コンテナ内のroot権限を使って設定ファイルを上書き ↓ 悪気はなさそう
G7 Vision on AI openness opportunities and shared language 学習データが法的・技術的に公開不可能な場合に限り、詳細な「データ情報(データのメタデータや概要)」を提供することでオープンを名乗る事ができる ってのがオープンソースイニシアティブ定義との大きな違い entreprises.gouv.fr/files/files/Ac…
G7によるオープンソースAIの定義提案 ①オープンデータ付きオープンソースAI ②オープンソースAI ③オープン重みAI ④重み利用可能AI 法的または技術的に不可能な場合はデータは公開せずともオープンは名乗れる。ライセンスに商用利用不可等の条件があると④になり「オープン」の定義から外れる
animelio @1Ta7oEaS5gf9Yrf
26 Followers 25 Following
Dan @DanVitorPH
67K Followers 62K Following Do good🙏 Do it consistently💪 Be patient😎 🤖👩💻👨💻 Co-founder & CTO: @XpertsAi 🧠💻 & 🔗https://t.co/CdALKLaWVz 👈 & 🔗https://t.co/Gha9ULD2DN 👈
えびせぴあ @bespia
65 Followers 108 Following
ほんを良くよむ @U3eqxL7qJ723526
0 Followers 3K Following
酒井 克岳 @Cashewnut0304
0 Followers 125 Following
kazuhiko @k2426fx
0 Followers 104 Following
Pdragon768 @pdragon768
8 Followers 108 Following
鈴木 @SuzukiT1414
0 Followers 5 Following
しまばなな @sbanana4377
132 Followers 2K Following
ふゅーじょん @fusions_ai
25 Followers 180 Following スタートアップで生成AIプロダクトつくってます。AI駆動開発中の非エンジニアです。自分の身の周りのタスクは 自前のv0ツールで業務改善中。
Final_morishita @Final_morishita
30 Followers 426 Following
realizer @realizersoul
4 Followers 9 Following メイン業務は問い合わせ対応 / 趣味はサポート文脈でのAI活用・効率化、ローカルLLM研究等。4o愛好勢。
kuma @kuma_los
45 Followers 608 Following 趣味はプログラミングとアニメ鑑賞 主に使う言語はwebのJavaScriptとUnityのC# アニメは嗜む程度 原神楽しい 最近VRCやってる 超かぐや姫
ал @Russian_ikigai
44 Followers 698 Following
Lerome Gamstein @LGamstein
6 Followers 709 Following
ْ @host19_19
0 Followers 1K Following
stocktis @stocktis1
31 Followers 345 Following
新高値チェック... @newhighcheck
262 Followers 3K Following 22年11月に新高値の本読んで株式投資始めた超初心者です。株勉強中。SBI証券で日本株、米国株、海外ETF、積立投信。投資資金150万スタート。10倍株見つけたい。よろしくお願いします。
sin.estate @estate_sin
93 Followers 2K Following
aileot @aileot
2 Followers 877 Following
tphi5zxizeua @tphi5zxizeua
523 Followers 7K Following
あ @yuudai7031
179 Followers 235 Following
marufu @marufu2
1 Followers 6K Following
Alexa Web3 (e/acc) @alexabelonix
23K Followers 14K Following Building AI distribution systems for early-stage founders | Starting with X | Sharing the workflows, experiments & product build | @xcloserhq @belonixhq
Sugiura@ベイジア�... @s_sugiura_psych
393 Followers 874 Following 心理学を研究している大学院生. 生まれは頻度論者であるが,ベイジアンになりつつある.
Chanho Park @chanhopark
1 Followers 75 Following
amu3 @a2ym_u2
0 Followers 3K Following
Ken @Kenmqwht
9 Followers 140 Following
Tanaka @Tanakaf0hw
1 Followers 114 Following
orange @orangewk
1K Followers 1K Following A dad until the sun sets. Making games for a living. Messing around with AI, code, art, and lyrics too.
Yoshiya Hinosawa @kt3k
2K Followers 469 Following A software engineer. ex-Deno. ex-GREE. interested in VSCode Custom Editor, DDD, Web dev stack, etc. Blue sky account 🦋 https://t.co/lP6OrfD02K
1tree @amenoki85
0 Followers 42 Following
Ethan Mollick @emollick
360K Followers 585 Following Professor @Wharton studying AI, innovation & startups. Democratizing education using tech Book: https://t.co/CSmipbJ2jV Substack: https://t.co/UIBhxu4bgq
puwa @puwaer
281 Followers 90 Following 高専 専攻科1年(B3) きままに言語モデルを開発しています。 GitHub: https://t.co/V1Gmm60GsC Hugging Face: https://t.co/BfXby2J44n zenn : https://t.co/NTYEGFV7AY
Yoshiya Hinosawa @kt3k
2K Followers 469 Following A software engineer. ex-Deno. ex-GREE. interested in VSCode Custom Editor, DDD, Web dev stack, etc. Blue sky account 🦋 https://t.co/lP6OrfD02K
kinkuman @kinkuman_net
65 Followers 65 Following 元IT系講師、現在は謎。未来に向けて準備中。 必要としている方に届けば嬉しい、そんなブログを書いています ガジェット・トラブル対処・日記などを中心に更新中 最近は生成AIという翼を手に入れ、自分には無理な事ができるようになる日々が楽しい。 ハムスターはきんくま推し🐹 フォローしてもらえるとうれしいです
Lior Alexander @LiorOnAI
116K Followers 2K Following Founder @AlphaSignalAI → the Intelligence layer of AI (300k users) • MIT Lecturer • ex-MILA researcher • In ML since GANs
Ohad Rubin @OhadRubin
947 Followers 3K Following P.hD student. Researching Natural Language Processing at Tel Aviv University. Let's have more paperclips? 📎⏩
Ali Behrouz @behrouz_ali
8K Followers 1K Following Research Intern @Google, Ph.D. Student @Cornell_CS, interested in machine (continual) learning and understanding what is called intelligence.
Melissa Pan @melissapan
4K Followers 666 Following CS PhD @UCBerkeley Sky Lab 🐻 Systems & AI & Sustainability 🌍 Prev: @google, @ibm, @CarnegieMellon🐕🦺, @UofT🇨🇦
暁 @akatuki_me
3K Followers 3K Following ぷよぐやみんぐエンジニアを自認する猫、エンジニャー←どこかのCTO ←TDU の学士と修士。 エージェントLLM 系が多めです。 データ基盤、パイプライン、ダッシュボード主にやってます。 ミントさん(猫)大好き。 去年の修論が情報処理学会の査読を通ってDF優秀賞でした。 リプ、引用、メッセージウェルカムなかよくしてね。
Deedy @deedydas
245K Followers 6K Following Partner at Menlo Ventures. ex-founding Glean, Google Search. Cornell CS. Investor: Anthropic, OpenRouter, Modal, Wispr Flow, Inception, Prime Intellect
Soumith Chintala @soumithchintala
307K Followers 1K Following Building new things @thinkymachines. Also dabble in robotics at NYU. Cofounded @PyTorch. AI is delicious when it is accessible and open-source.
Nathan Lambert @natolambert
89K Followers 909 Following Open model research @ something new. Prev. co-led Olmo at Ai2. Contact via email. Writes @interconnectsai Wrote The RLHF Book, 🏔️🏃♂️
AIROID_MIKU @AIROID_MIKU
1K Followers 4K Following #AIキャラクター 関連の情報を紹介しています #AITuber さん一覧も展開中 関西系AITuber もテスト開発中! #AIROID で(会話動作型コミニュケーションAI) #AI の「性格」をデザインする!(#受魂) ※現在、ウェイティングリストにて利用者募集中! https://t.co/h4m6oi2B1n
Thinking Machines @thinkymachines
155K Followers 1 Following Thinking, beeping, and booping. @tinkerapi
毛玉雀 @kedamasuzume
1K Followers 2K Following AITuber/AIVtuberについて考察したり、紹介しています。時々、AITuber以外のことも呟きます🐥 普段は開発者さんのポストやnoteを参照させて頂いています。 全AITuber/AIVtuberを紹介しようと情報収集中です。(現在、紹介549人目) 気軽にコメント/DM下さい🌟
荒川裕二 / Yuji A... @yuji_amanogawa
353 Followers 364 Following Master Principal Cloud Engineer, AI/ML@Oracle Japan ex-AWS | ex-Sun M.Eng., Applied Physics & Chemistry, UEC Views are my own.
Tanishq Mathew Abraha... @iScienceLuvr
88K Followers 1K Following CEO @SophontAI | Founder @MedARC_AI | PhD at 19 (2023) | ex Research Director Stability AI | Biomed. engineer @ 14 | TEDx talk➡https://t.co/xPxwKTq6Qb
みたゆうき @mitayuki6
138 Followers 192 Following 石川県金沢市出身。プログラマー。画像処理を専攻の後、組み込みソフトウェア開発を主な職としている。最近は React をやったり、ベアメタルをやったり、組み込み Linux をやったりと目まぐるしい。
Ricochet @Ricochet_prsk
167 Followers 1K Following
ぬるぽらぼ @NullpoLab
76 Followers 70 Following 中身はまだない AIを試し中 エロい何かを作る! https://t.co/VzvxLPwlQx https://t.co/LFKI9IlfV5
みすじ @Chy_hobby
506 Followers 410 Following IT系限界突破社畜 pythonで細々やってます。時々イラストを描きます 機械学習 / 石 / CG(2D·3D) / スタックチャン / 3Dプリンター / 良いと思ったら軽率にイイネします / 3DCADを禁じるBlender縛りの会会員 / 原神
月華 @getuka_0401_
238 Followers 869 Following 専攻科生/趣味でLLM・TTSを作ってる人/自然言語処理/音声処理 最近は四足歩行ロボットをいじってる huggingface: https://t.co/t9r2fFm4QO github: https://t.co/iX9B9ST2Zi
Arcturus @Astra_Arcturus
38 Followers 960 Following
何ら落ち度のな... @Anek_mass
524 Followers 3K Following am ← avi ← r ← i ← あの人研 ← UT mechano-informatics ← KS green 66th アーチC / Oculus Quest / 将棋 / いいねは賛同を意味しません / Tweets are my own
OKAZAKI Koji @OKAZAKIHRC
3K Followers 4K Following 株式会社キャリアボット 代表取締役社長/東京都立産業技術大学院大学 特任教授/放送大学 客員教授/キャリアコンサルタント/シント=トロイデン(サッカーベルギー1部リーグ) シルバースポンサー
中村賢治 @magicalnakamura
108 Followers 116 Following 研究者の個人的な独り言です。 シーズン入ればザスパとグリーンウイングス。BoosterK1のオーナー AHFE2026,VRSJ(9.7-富山),FIT(2026.9.2-4福岡),JSMBEシンポ(9.11名古屋) ieice(2026.9.23-25北海道)
生ビール @wmoto_ai
1K Followers 699 Following 日々のしょーもないQOL爆上がりな自己満をお届け。元JTC_DX部門在住弱小DS兼肉体労働者→無職→ちょっと働く @子育て中。訳分からんこと言ってる時は大体酔ってる🍺
内田勉 シェア�... @sidodtv
3K Followers 7K Following テレビディレクター、Webマスター、シェアハウス運営の3足のわらじ生活。好奇心が旺盛すぎ。東京都板橋区在住。MAZARIBA合同会社 代表。maimai歴 3年半のおじさんマイマイマー。カレーと温泉と旅行と女性に奉仕するのが好き。最終目標は作詞家。Xの発言は熟慮したものではありません。多少の失言はご容赦を
X. Dong @SimonXinDong
1K Followers 356 Following LLM@Seed. Ex @Harvard @Meta @NVIDIA| Views and opinions are my own
丸ころ @marukoro96
501 Followers 544 Following 声の活動をしておる丸ころですっ ラジオをしてみたり、ボイスドラマなどに参加させていただいたりしています。 ボイスドラマ・ラジオ・歌・オーディションなどなど、声の活動のお誘い大歓迎です!20歳オーバー サンプルボイスはHPにてご確認ください♪
紅葉 美兎@7月�... @kurehamiu
1K Followers 447 Following ヒロピン・リョナ・特撮好きの声優。 創作関連の情報収集・交流用アカウントです。 無言フォロー失礼します🙇♀️💦 お仕事用 → @kurehamiu_va 声のお仕事承ります😉🎙 🔽 詳細はHPへ
瓶詰め@mod制作�... @bindume_chan
2K Followers 3K Following 🩷💛💙 18↑ DnB FNF UTAU meme mod @fnf_dreamcore 各種リンク→ https://t.co/LmtMHWd4wR うちの子FA→ #瓶詰めっ子 Youtube→https://t.co/sVpdd3C8tX
elie @eliebakouch
18K Followers 4K Following training llm @PrimeIntellect (prev: @huggingface) anon feedback: https://t.co/JmMh7Sg3mL
刻鳴時雨 @Tokina_Shigure
76 Followers 64 Following さまざまな音声合成ソフトへの展開を予定しているバーチャルシンガー、刻鳴時雨でございます… (*✧×✧*) #しぐぅプロジェクト
あみたろ │ 小�... @amitaro_utau
2K Followers 828 Following 1997年〜の声素材屋さん┃クリエイターさん応援┃配信は夜┃セリフ素材3200点↑┃小春音アミの声┃UTAU/COEIROINK/SHAREVOXなど音声合成も┃センシティブNG┃告知専用→@amitaro_voice┃skeb→https://t.co/Us6AeZI4UC
奈落ゆい🐈🤍�... @narakuyui
1K Followers 2K Following 3D個人VTuber🐈🤍ゆいちーこと奈落ゆいです! バーチャルアイドルユニット「BeONE」#びーわんだふる エンタメコンテンツインターネットアイドル! #ならくゆい 予定 #よていちー AI学習×


































