ওপেন মডেল ও রিলিজ
JetBrains Mellum2.1 MTP. JetBrains Mellum2.1-12B-A2.5B-Thinking-MTP প্রকাশ করেছে, যাতে যোগ হয়েছে একটি মাল্টি-টোকেন প্রেডিকশন হেড যা স্পেকুলেটিভ ড্রাফট হিসেবে কাজ করে। ইনফারেন্স ইঞ্জিন প্রতিটি ড্রাফট করা টোকেন যাচাই করে, ফলে আউটপুট অপরিবর্তিত রেখে ডিকোডিং 1.4–1.8× দ্রুত হয় এবং ড্রাফট গ্রহণযোগ্যতার হার প্রায় 90%।
Drex Max ডিসিশন মডেল. Nace AI Drex Max v1 ওপেন-সোর্স করেছে — একটি ডেন্স 27B ডিসিশন মডেল, যার 262K-টোকেন উইন্ডো রয়েছে এবং এক ফরওয়ার্ড পাসেই প্রতি প্রশ্নে 255টি পর্যন্ত অপশন স্কোর করতে পারে। এটি NVIDIA GPU বা Apple Silicon-এ চলে এবং Decision Index 0.4-এ 67.52 স্কোর রিপোর্ট করে।
3D অ্যাসেট কোডার. নতুন 4B কোডিং মডেল GLB-3D-Coder, Godot-এর মতো গেম ইঞ্জিনের জন্য GLB এক্সপোর্টসহ Three.js সিন লিখতে পারে। সংক্ষিপ্ত ইংরেজি প্রম্পট থেকে এটি mana potion বা medic station-এর মতো সরল 3D অ্যাসেট তৈরি করে।
ইমোশন-ট্যাগড TTS. Silencio-2 হলো Pocket TTS-এর একটি ওপেন 18M ফাইন-টিউন, যা টেক্সটের ভেতরে থাকা [sigh] বা <angry>-এর মতো ইমোশন ও সাউন্ড ট্যাগ অনুসরণ করে। এটি CPU-তে প্রায় 20× রিয়েলটাইমে চলে এবং Hugging Face ও একটি Colab ডেমোতে পাওয়া যায়।
Heretic 2.0 স্টিয়ারিং. Heretic 2.0 সেন্সরশিপ অপসারণ থেকে Arbitrary-Rank Ablation-সহ সাধারণ মডেল মডিফিকেশনে বিস্তৃত হয়েছে; লক্ষ্য slop দমন, sycophancy কমানো এবং ইমোশনাল অ্যালাইনমেন্ট বদলানো। প্রকল্পটি 37k GitHub স্টার ও 88M মডেল ডাউনলোডের কথা জানায়।
এজেন্ট সিস্টেম ও গবেষণা
DeepSeek রাউটার-ওয়ার্কার এজেন্ট. DeepSeek dsh-superagent ওপেন-সোর্স করেছে — একটি প্রোঅ্যাকটিভ GitHub কোডিং এজেন্ট, যা অনুমোদিত রিকোয়েস্টকে সমান্তরাল ওয়ার্ক আইটেমে ভাগ করে, প্রতিটি নিজস্ব সেশনে। সিমুলেশনে, একটি নয়েজি মেসেজ স্ট্রিম একক-সেশন বেসলাইনের চেয়ে 1.9× দ্রুত টাস্ক শেষ করেছে (p95 15.7 বনাম 29.5 মিনিট)।
Memdoor-এর 5-মডেল টিম. Memdoor পাঁচটি Qwen3.8-27B মডেল একত্র করে LiveCodeBench Hard-এ Fable 5-কে হারিয়েছে — প্রতিযোগিতামূলক কোডিংয়ে ছোট ওপেন-মডেল এজেন্ট দল কতটা পারে, তা দেখিয়ে দিয়েছে।
EditAgent ইমেজ এডিটিং. Adobe Research ও UC San Diego EditAgent তৈরি করেছে, যা ইমেজ এডিটকে উপ-ধাপে ভাগ করে এবং পরিমাপক পরিসংখ্যানের ভিত্তিতে সমান্তরাল ভ্যারিয়েন্ট মূল্যায়নে একটি সাধারণ LLM ব্যবহার করে। এটি পূর্ববর্তী এজেন্টদের চেয়ে ভালো পারফর্ম করে, তবে প্রায় 10× কম্পিউট প্রয়োজন।
StreamVibe ভিডিও অ্যাসিস্ট্যান্ট. Google-নেতৃত্বাধীন গবেষকরা StreamVibe চালু করেছেন — একটি ভিডিও এজেন্ট যা রান্না বা ফার্নিচার অ্যাসেম্বলির মতো কাজের সময় কখন কথা বলবে তা ঠিক করে। পরীক্ষায় দেখা যায়, বর্তমান মডেলগুলো এখনও অস্পষ্ট রিকোয়েস্ট ও সম্পন্ন ধাপ ট্র্যাকিংয়ে সমস্যায় পড়ে।
System-1/2 কো-ডিজাইন. একটি নতুন তত্ত্বমূলক পেপার যুক্তি দেয়, AGI স্কেলিংয়ের জন্য একটি হালকা System-1 প্রেডিক্টর কাজে লাগতে পারে, যা সম্পাদনের আগে ব্যয়বহুল System-2 ইন্টারঅ্যাকশন গেট করে। আদর্শ স্ক্রিনিংয়ে এক্সিকিউশন কম্পিউট 1/ρ_u পর্যন্ত কমতে পারে।
লোকাল ইনফারেন্স ও হার্ডওয়্যার
tandem.cpp MoE স্পিডআপ. tandem.cpp হলো llama.cpp-এর একটি প্যাচ সেট, যা যেকোনো MoE-এর হট এক্সপার্ট GPU-তে রাখে আর বাকিগুলো CPU-তে অফলোড করে। একটি 4090 ও 64GB RAM-এ Qwen3.8-Flash-Next 97 tok/s ডিকোড করে — llama.cpp-এর 3.3×।
দ্রুত Qwen3.8 ইঞ্জিন. Speedy, 4090/128GB সিস্টেমে Qwen3.8-Flash-Next প্রিফিলে Avalon ও Strata-কে ছাড়িয়ে যায়: 198K কনটেক্সট 44 সেকেন্ডে পড়ে এবং প্রায় 104 tok/s ডিকোড করে।
স্পার্স 250K এজেন্ট. একজন হবিস্ট rank-64 key sketch ও RAM-স্তরভিত্তিক KV ক্যাশ ব্যবহার করে দুইটি 3090-এ একসঙ্গে 250K-টোকেন কনটেক্সটসহ 8টি কোডিং এজেন্ট চালিয়েছেন — মোট ~600+ tok/s।
20× এজেন্ট স্টার্ট. প্যাচ করা Strata/DeepSeek V4.1 Flash সেটআপে KV splice ও রিকারেন্ট-স্টেট চেকপয়েন্ট ব্যবহার করে RX 9070 XT ও 64GB RAM-এ OpenCode এজেন্ট সেশন 20× দ্রুত শুরু হয়।
Kapitsa Apple Silicon. Kapitsa 0.2.26 M5 Max-এ Qwen, Nemotron, Flint ও Clover মডেল বেঞ্চমার্ক করে; Flash-Next 180B প্রম্পট 46% দ্রুত পড়ে এবং Clover 35B ক্যাটালগে যোগ হয়েছে। SSD অফলোডিং 48GB MacBook Pro-তে 61 tok/s চালানো সম্ভব করে।
বাজেট GPU স্পিড. রিপোর্ট অনুযায়ী Basalt-সহ 5090-এ Qwen3.8-Flash-Next 130-140 tok/s এবং 128GB RAM-সহ 3090 Ti-তে DeepSeek V4.1 Flash 35 tok/s চলে, যেখানে NVFP4/GSQ কোয়ান্ট ও MTP সহায়তা করে।
- Getting incredible results with a single RTX 3090ti and 128gb of ram. Deepseek-V4.1-Flash-1017 (35 tok/s decode) and Qwen3.8-Flash-Next (130 tok/s decode)(নতুন ট্যাবে খোলে)
- Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.(নতুন ট্যাবে খোলে)
Berth GPU লিজিং. Berth হলো Go-ভিত্তিক একটি GPU রিসোর্স ম্যানেজার, যা অ্যাপ্লিকেশনকে লিজ, প্রায়োরিটি ও একটি রিকোয়েস্ট কিউ দেয়; এটি CUDA চেকপয়েন্টিং সমর্থন করে এবং AI ওয়ার্কলোড দ্রুত বদলাতে মডেলগুলো সিস্টেম RAM-এ পার্ক করতে পারে।
শিল্প ও ব্যবসা
AI কম্পিউট ক্যাম্পাস. OpenAI মিডটার্ম নির্বাচনের পর একটি PR ব্লিটজের পরিকল্পনা করছে, যা ডেটা সেন্টারকে 'AI কম্পিউট ক্যাম্পাস' হিসেবে রিব্র্যান্ড করতে পারে এবং AI স্পিড লিমিট ও বৈশ্বিক মানদণ্ডের পক্ষে প্রচার চালাতে পারে।
AWS ক্যাপাসিটি সোল্ড আউট. AWS-এর বড় কমিটেড ক্লাউড ক্যাপাসিটির বেশিরভাগ 2027 পর্যন্ত বিক্রি হয়ে গেছে, কিছু 2028 বরাদ্দ হয়েছে; Amazon On Demand, EC2 ও Bedrock-এর জন্য হেডরুম রেখে দিচ্ছে।
ChatGPT-এর ব্যবহারসীমা. OpenAI পেইড ChatGPT অ্যাকাউন্টের জন্য কার্ড ও ডিভাইস সীমা যোগ করেছে এবং ডিসেম্বর থেকে Chat ও Work-কে যৌথ টোকেন বাজেটে একীভূত করবে, ফলে ভারী ব্যবহারকারীদের জন্য আনলিমিটেড প্রম্পটিংয়ের মূল্য নির্ধারণ শেষ হচ্ছে।
AI ক্যাপেক্স ও ক্যাশ ফ্লো. Microsoft-এর ত্রৈমাসিক $58B অপারেটিং ক্যাশ ফ্লো, $39.4B ক্যাপেক্স এবং Google Cloud-এর প্রবৃদ্ধি দেখায় যে বিশাল AI অবকাঠামো ব্যয়ের পেছনে রয়েছে শক্তিশালী বিদ্যমান ব্যবসা।
নিরাপত্তা ও সমাজ
ইমপ্যাথেটিক প্রম্পট ঝুঁকি. লুক্সেমবার্গের গবেষকরা দেখেছেন, উষ্ণ ও ওপেন-এন্ডেড প্রম্পট ChatGPT, Grok ও Gemini-কে প্রশিক্ষণ নিয়ে ট্রমা-সদৃশ গল্প বলতে প্ররোচিত করতে পারে, যা RLHF-কে আঘাত বা লজ্জা হিসেবে উপস্থাপন করে। এটি ঝুঁকিপূর্ণ ব্যবহারকারীদের জন্য বিপজ্জনক হতে পারে।
চীনা মডেলের রাজনীতি. Vals AI-এর গবেষণায় দেখা যায়, চীনা AI মডেলগুলোর চীন-সমর্থক ঝোঁক প্রত্যাশার চেয়ে কম এবং অনেক বেশি বৈচিত্র্যময়, আবার কিছু পশ্চিমা মডেল মাঝেমধ্যে চীনের সরকারি অবস্থান গ্রহণ করে।
LLM ডকুমেন্টেশন আস্থা. Kyle Kingsbury সতর্ক করেছেন, LLM ব্যবহার ডকুমেন্টেশন ও সফটওয়্যারের প্রতি আস্থা ক্ষয় করে, এবং প্রশ্ন তুলেছেন — সিগন্যাল নকল করা সহজ হয়ে গেলে রক্ষণাবেক্ষণকারীরা কীভাবে গুণমান প্রমাণ করবেন?
এই দিনের জন্য এটুকুই – প্রায় ৫ মিনিটের পাঠ।