Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1

Дата публикации: 12-10-2026 20:50:11

Я хотел разработать собственный AI-процессор, нашёл openTPU, взял FPGA за ~$50 с 4 ГБ оперативной памяти, подключил её к обычному мини-ПК и запустил на ней большую языковую модель - и улетел в космос (в позитивном и дофаминовом смыслах). Без NVIDIA. Без видеокарты. На открытой архитектуре, которая разработана при активном участии ИИ-агентов. openTPU — открытый AI-ускоритель Felipe Sens Bonetto.Мне стало интересно: а можно ли действительно взять такой проект с GitHub, загрузить его в физическую FPGA и запустить настоящий LLM-инференс?По замерам автора проекта на такой же плате: → Qwen3-0.6B — 31 токен в секунду → Qwen3.5-2B — 12 токенов в секунду → LFM2.5-230M — 86 токенов в секунду → Qwen3.5-35B — модель на 35 млрд параметров на карте с 4 ГБ памяти, 4 токена в секунду И всё это на FPGA, которой уже далеко не первый год.🔧 Что я сделал:→ Купил Xilinx Kintex-7 XC7K480T с 4 ГБ оперативной памяти на AliExpress (информация по плате: 1 и 2)→ Подключил FPGA к MINISFORUM через PCIe→ Собрал прошивку (bitstream) в Vivado→ Настроил драйверы и PCIe DMA→ Подготовил программное окружение→ Загрузил реальные веса нейросетей→ Запустил инференс, включая QwenИ всё заработало!✅ FPGA успешно определяется системой✅ PCIe DMA передаёт данные✅ Подсистема памяти работает✅ Тесты инструкций процессора проходят ✅ Языковая модель выполняет инференс на FPGA💡 Почему это интереснее, чем просто запуск ещё одной нейросети?Обычно мы воспринимаем GPU как готовую платформу: покупаем видеокарту, устанавливаем CUDA и запускаем модели.Но что, если пойти в обратную сторону?Не подбирать железо под нейросеть, а создавать собственное железо под конкретные вычисления нейросети.Именно для этого разрабатывают специализированные AI-ускорители, в том числе TPU — процессоры, оптимизированные под операции машинного обучения.Конечно, текущая плата пока не конкурент NVIDIA H100. И работающий прототип — это ещё далеко не серийный ASIC.Но теперь можно не просто рассуждать о собственной архитектуре AI-процессора, а экспериментировать с ней на физическом оборудовании.🔬 Над чем думаю дальше: → Более быстрая память и более мощная FPGA → Оценка архитектуры для собственного inference-чипа Мы уже используем ИИ, чтобы писать программы. Теперь ИИ проектирует процессоры, на которых сам будет работать. Раньше свой AI-ускоритель был задачей Google и NVIDIA — сегодня прототип может собрать и испытать один инженер. Во второй части покажу все результаты со своего стенда. Отдельное спасибо Felipe Sens Bonetto за openTPU.🔗 Оригинальный проект: https://github.com/FeSens/openTPUссылка на оригинал статьи https://habr.com/ru/articles/1092504/

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1	0	15.59	09-10-2026
2	Купил мини‑ПК с приставкой «AI» ради локальной LLM. Что может NPU на самом деле	0	10.63	01-10-2026
3	Как мы запустили Qwen3.8–27B целиком на RTX 5060 8 GB и получили ~30 токенов/с	0	11.26	07-10-2026
4	🧬 Нейронные сети с импульсами для обработки потоковых кубитов Авторы ...	-1	6.57	04-10-2026
5	Локальные нейросети без Python, CUDA и терминала: делаю программу, в которой всё настраивается само	0	7.01	27-09-2026
6	Отвечая на вопрос «что меняется в ИТ-инфраструктуре при внедрении ИИ», ...	0	9.18	03-10-2026
7	🚀 Google отправил ИИ в космос. Но главный вопрос — ...	0	7.34	04-10-2026
8	ИИ-чипы полетели в космос 🛰️ Вчера Google запустила экспериментальный спутник ...	0	11.8	02-10-2026
9	Что значит развернуть LLM локально: два дня с vLLM, DGX Spark и настоящими ограничениями	0	8.77	11-09-2026

Классификация: . Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 13.39. Источник: vk.com.