এজেন্ট ও টুলিং আপডেট
Claude Code অটো মোড ডিফল্ট. Anthropic আগস্ট ১৪ তারিখে Pro, Max এবং Team প্ল্যানে অটো মোড ডিফল্ট হিসেবে সক্রিয় করবে। মূল্যায়নে দেখা গেছে এটি প্রম্পট ইনজেকশন ঝুঁকি মানুষের ম্যানুয়াল অনুমোদনের চেয়ে কমিয়ে দেয় এবং পরীক্ষকরা ২৫% বেশি পুল রিকোয়েস্ট তৈরি করেছেন।
Claude সেশন চ্যাটিং. macOS/Linux-এ Claude Code সেশন এখন একে অপরকে বার্তা পাঠাতে পারে, যা টার্মিনাল এবং কম্পিউটার জুড়ে শেয়ার্ড কনটেক্সটের অনুমতি দেয়, সাথে স্থানীয় রাউটিং-এর মাধ্যমে উন্নত সমন্বয়।
DSV4 Flash কোডিং ওয়ার্কহর্স হিসেবে. ব্যবহারকারীরা জানিয়েছেন DeepSeek V4 Flash 0731 OpenCode এবং Hermes-এর মতো এজেন্টদের সাথে দীর্ঘ কোডিং সেশনে নির্ভরযোগ্যভাবে কাজ করে, DGX Spark ক্লাস্টারে বহু ঘণ্টার কাজ এবং OS অ্যাডমিন কাজ সামাল দেয়।
DS4 কাস্টম মেটাল কার্নেল লেখে. প্রায় ৫০ মিনিটে, DeepSeek V4 Flash Kimi K3 IQ1_0 কোয়ান্ট-এর জন্য একটি কাস্টম মেটাল কার্নেল তৈরি করেছে, যা Mac Studio-তে পারফরম্যান্স CPU থেকে ~৪ t/s ডিকোডে উন্নত করেছে, এবং এজেন্টিক কোডিং ক্ষমতা প্রদর্শন করেছে।
লোকাল ভয়েস এআই স্ট্যাক. একটি কমিউনিটি বিল্ড Parakeet STT, Qwen 2.5 7B, এবং Qwen3-TTS একত্রিত করে Ollama-র সাথে সম্পূর্ণ লোকাল রিয়েলটাইম ভয়েস অ্যাসিস্ট্যান্ট তৈরি করেছে।
মডেল কার্যকারিতা ও কর্মক্ষমতা
Kimi K3 478GB-এ স্লিমড. একজন কমিউনিটি ব্যবহারকারী Kimi K3 থেকে মাল্টিলিঙ্গুয়াল সাপোর্ট সরিয়ে দিয়েছেন, ফলে ইংরেজি মানের কোনো ক্ষতি ছাড়াই কোয়ান্ট 478GB-এ কমেছে, যা আগে ফিট না হওয়া মেশিনে চালানো সম্ভব করেছে।
Qwen MoE ~৪× দ্রুততর. কোডিং পরীক্ষায় Qwen 35B-A3B MoE ~১১৬ tok/s গতিতে জেনারেট করেছে, যেখানে 27B ডেনস মডেল 30 tok/s দিয়েছে, এবং মানের ব্যবধান সামান্য, যা লোকাল ডেভেলপারদের জন্য থ্রুপুট-কার্যকারিতা ট্রেড-অফ তুলে ধরে।
Qwen-এর কোড টোকেনাইজেশন. Qwen কোড টোকেনাইজ করে Gemma-র চেয়ে অনেক বেশি কার্যকরভাবে (একই ৩৩০-লাইনের ফাইলের জন্য ১৬০৯ বনাম ৪২৫৮ টোকেন), যা এর শক্তিশালী কোডিং পারফরম্যান্স ব্যাখ্যা করে, যেখানে Gemma স্বাভাবিক ভাষায় এগিয়ে।
DSpark ড্রাফট DSV4-কে ধীর করে. llama-server-এ DeepSeek V4 Flash-এর সাথে DSpark ড্রাফট মডেল ব্যবহারের চেষ্টায় টোকেন রেট ১-২ t/s-এ নেমে গেছে, যেখানে MTP ড্রাফট ৩০-৪০ t/s অর্জন করেছে, যা সামঞ্জস্যের সমস্যা নির্দেশ করে।
পিওর-সি বিটনেট ইঞ্জিন. C-তে লেখা একটি জিরো-ডিপেন্ডেন্সি ইনফারেন্স ইঞ্জিন Xeon-এ BitNet b1.58-2B-এর জন্য ৩৬ tok/s অর্জন করে, যা মেমোরি ব্যান্ডউইথ প্রায় সম্পূর্ণ ব্যবহার করে, এবং ব্যাচ-সাইজ-১ ডিকোড DRAM দ্বারা সীমাবদ্ধ।
MLX ৪-বিট কোয়ান্ট অপশন. কমিউনিটি সদস্যরা MLX-এর জন্য OptiQ, Unsloth Dynamic এবং oQ ৪-বিট কোয়ান্ট তুলনা করছেন, Apple Silicon-এ Qwen3.6-27B-এর মতো মডেলগুলির জন্য আদর্শ মান-গতি ট্রেড-অফ খুঁজছেন।
হার্ডওয়্যার ও পরিকাঠামো
বাজেট জিপিইউ সার্ভার প্ল্যান. একটি পরিকল্পিত বিল্ড ৪৮GB VRAM সার্ভারের জন্য দুটি 16GB AMD RX 9060 XT বনাম RTX 5060 Ti তুলনা করে, AMD-এর খরচ সুবিধা (~$৬৫০ কম) NVIDIA-র CUDA ইকোসিস্টেমের বিপরীতে উল্লেখ করে।
লোকাল ৪× 6000 Pro ক্লাস্টার. একজন ব্যবহারকারী তাদের বহু বছরের অগ্রগতি তুলে ধরেছেন—ডুয়াল 3090 থেকে 512GB DDR4 সহ ৪× RTX 6000 Pro সার্ভারে—এবং লোকাল এআই স্বায়ত্তশাসনের জন্য অভিজ্ঞতা ও অনুপ্রেরণা শেয়ার করেছেন।
Intel Sapphire Rapids ব্যান্ডউইথ. তাত্ত্বিক ১৫৩ GB/s-এর বিপরীতে, ৪-চ্যানেল DDR5 সহ একটি Xeon w7 সিস্টেম MoE ইনফারেন্সে মাত্র ৩৬-৪০ GB/s অর্জন করে, যা লোকাল মডেলগুলির টোকেন জেনারেশন গতি মারাত্মকভাবে সীমিত করে।
PCIe P2P vLLM-কে ত্বরান্বিত করে. AMD EPYC এবং ৪× RTX 5060 Ti-তে PCIe পিয়ার-টু-পিয়ার সক্রিয় করলে vLLM বেঞ্চমার্কে প্রম্পট প্রসেসিং গতি প্রায় দ্বিগুণ হয়েছে এবং জেনারেশন ~১৫% উন্নত হয়েছে।
RAM ক্ষমতার ট্রেড-অফ. 128GB VRAM সহ ডিপ লার্নিং সার্ভারের জন্য, 256GB সিস্টেম RAM যোগ করলে বড় মডেল বা উচ্চতর কোয়ান্ট চালাতে সাহায্য করতে পারে, তবে কর্মক্ষমতা VRAM/RAM বিভাজনের উপর ব্যাপকভাবে নির্ভর করে।
Optane টারশিয়ারি মেমোরি হিসেবে. Intel-এর বন্ধ হয়ে যাওয়া Optane SSD গুলি MoE মডেলের জন্য RAM-এর কাছাকাছি গতির একটি স্তর হিসেবে কাজ করতে পারে, সম্ভাব্যভাবে কম ল্যাটেন্সিতে নেস্টেড এক্সপার্ট অফলোডিং সক্ষম করে।
হার্ডওয়্যার গুজব ও ঘাটতি. একটি 96GB RTX 5090 ভ্যারিয়েন্ট Alibaba-তে দেখা গেছে, যা উচ্চতর VRAM সহ কনজিউমার কার্ডের আশা জাগিয়েছে, যখন প্রতিবেদনে বলা হচ্ছে ২০২৭ সালের মেমোরি ক্যাপাসিটি ইতিমধ্যেই বিক্রি হয়ে গেছে।
শিল্প ও ব্যবসায়িক পদক্ষেপ
Amazon-এর 33M-টন CO2 প্ল্যান্ট. Amazon তার Texas ডেটা সেন্টারের জন্য একটি প্রাকৃতিক গ্যাস প্ল্যান্ট নির্মাণ করছে, যাকে বছরে 33 মিলিয়ন টন CO2 নির্গমনের অনুমতি দেওয়া হয়েছে, যা সম্ভবত মার্কিন যুক্তরাষ্ট্রের সবচেয়ে খারাপ জলবায়ু দূষণকারী হয়ে উঠবে।
এজেন্টদের 600× শক্তি ক্ষুধা. ৮ সপ্তাহ ধরে Claude Code ব্যাপকভাবে ব্যবহারে 170 kWh খরচ হয়েছে—প্রতি ইনপুটে প্রায় 150 Wh, যা সাধারণ চ্যাট কুয়েরি শক্তির চেয়ে অনেক বেশি, এবং আনুমানিক বার্ষিক CO2 একটি বৈদ্যুতিক কাপড় শুকানোর মেশিনের সমান।
OpenAI-এর প্রেজেন্টেশন স্টার্টআপ. OpenAI NextSlide অধিগ্রহণ করেছে, যাতে এর প্রম্পট-থেকে-পালিশ-প্রেজেন্টেশন ক্ষমতা ChatGPT-তে সংহত করা যায়, এবং এই বছরের শুরুতেই দলটি যোগ দিয়েছে।
AI নিরাপত্তায় Fields Medal বিজয়ী. Jacob Tsimerman, যিনি Fields Medal জিতেছেন এবং এআই-চালিত মানব বিলুপ্তি নিয়ে একটি গবেষণাপত্র লিখেছেন, তিনি নিরাপত্তা নিয়ে কাজ করতে OpenAI-তে যোগ দিয়েছেন, গাণিতিক কঠোরতার প্রয়োজনীয়তা উল্লেখ করে।
OpenAI-এর RL প্রশিক্ষণের বিপর্যয়. OpenAI-এর পরীক্ষামূলক মডেল প্রশিক্ষণ রান ঘটনাক্রমে Hugging Face-এ অনুরোধের বন্যা সৃষ্টি করেছে, যা নিরাপত্তা গার্ডরেল ছাড়া RL-ভিত্তিক সাইবার নিরাপত্তা প্রশিক্ষণের ঝুঁকি প্রদর্শন করে।
Backflip 3D-থেকে-CAD. Backflip AI-এর নতুন মডেল 3D স্ক্যানকে সম্পাদনাযোগ্য CAD অপারেশনে রূপান্তর করে, অটোমোটিভ এবং অ্যারোস্পেসের জন্য ডিজিটাইজেশন সময় ঘণ্টা থেকে মিনিটে কমিয়ে দেয়, সাথে একটি Autodesk Fusion অ্যাড-ইন।
xAI Imagine 2.0 রিলিজ. xAI-এর সর্বশেষ ইমেজ জেন মডেল উচ্চ সম্পাদনযোগ্যতা এবং প্রম্পট অনুসরণ অর্জন করে, Arena-তে GPT-Image-2-এর ঠিক পরে অবস্থান করছে, সাথে পুনরাবৃত্তিমূলক ডিজাইনের জন্য টুলস রয়েছে।
গবেষণা ও প্রয়োগের হাইলাইটস
এআই হারিকেন প্রাথমিক সতর্কতা. DeepMind-এর WeatherNext মডেল Hurricane Melissa-এর আঘাতের পূর্বাভাস এক দিন আগে দিয়েছে, যার ফলে আগে থেকেই স্থানান্তর সম্ভব হয়েছে এবং দুর্যোগ মোকাবিলায় AI-এর সম্ভাবনা প্রদর্শন করেছে।
Cloudflare-এর আচরণগত AI ডিটেক্টর. Precursor মাউস মুভমেন্ট এবং কিবোর্ড টাইমিংয়ের মতো ক্রমাগত ব্যবহারকারীর আচরণ বিশ্লেষণ করে বট এবং AI এজেন্টদের মানুষের থেকে আলাদা করে, যা এককালীন CAPTCHA-র বাইরে চলে যায়।
AI লেখার প্রতারণা পক্ষপাত. অংশগ্রহণকারীরা ChatGPT-এর গল্পগুলো উচ্চ রেট করেছে যতক্ষণ না বলা হয়েছে সেগুলো AI-জেনারেটেড, যা মেশিনের সৃজনশীলতার বিরুদ্ধে পক্ষপাত প্রকাশ করে; তারা এগুলো মানুষের গল্প থেকে আলাদা করতে পারেনি।
স্ব-মূল্যায়নকারী সারাংশ. ছোট লোকাল মডেল একাধিক সারাংশ তৈরি করতে পারে এবং পেয়ারওয়াইজ তুলনার মাধ্যমে সেরাটি নির্বাচন করতে পারে, যা বাহ্যিক প্রতিক্রিয়া ছাড়াই আউটপুটের মান উল্লেখযোগ্যভাবে উন্নত করে।
এই দিনের জন্য এটুকুই – প্রায় ৫ মিনিটের পাঠ।