Tiiny AI показала карманный суперкомпьютер для ИИ, который тянет миллиарды языковых моделей локально

Tiiny AI показала карманный суперкомпьютер для ИИ, который тянет миллиарды языковых моделей локально
Американский стартап Tiiny AI представил Pocket Lab — миниатюрный персональный суперкомпьютер, который помещается в ладони, весит около 300 г и способен локально запускать языковые модели до 120 млрд параметров. Устройство уже попало в Книгу рекордов Гиннесса как самый маленький мини-ПК, способный работать с LLM-моделями уровня 100B без обращения к облаку.

Pocket Lab построен на 12-ядерном процессоре ARMv9.2 и собственном NPU с производительностью до 190 TOPS. Внутри — 80 ГБ оперативной памяти LPDDR5X и SSD-накопитель на 1 ТБ, что позволяет устройству тянуть тяжёлые модели, сложные цепочки рассуждений, генерацию контента и автономных ИИ-агентов.

При TDP в 30 Вт и потреблении около 65 Вт это полноценная оффлайн-машина для инференса, рассчитанная на работу без облака и с максимальной защитой данных.

Мини-ПК поддерживает однокликовое развертывание фреймворков GPT-OSS, Llama, Mistral, DeepSeek, Qwen, Phi, а также ComfyUI, SillyTavern, Flowise и других инструментов.

Вся работа и хранение контента происходят локально с банковским уровнем шифрования, что устраняет проблемы конфиденциальности, расходы на облачные сервисы и зависимость от интернета.Tiiny AI расскажет более подробно об устройстве на выставке CES 2026 в начале января.

Читайте также: «Алиса» в мессенджерах теперь работает на базе самого мощного ИИ «Яндекса» — Alice AI UGREEN представила мощную док-станцию для внешних видеокарт с Oculink, USB4 и блоком на 850 Вт Геймеры, ликуйте: Razer возвращает легендарную Boomslang — первую игровую мышь бренда Источник: GizmoChina.

Опубликовано: 00:26, декабря 14, 2025 Рубрика: Наука и Технологии Источник: ichip.ru Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit
 
 
Google TPU Trillium: для больших языковых моделей ИИ

Google TPU Trillium: для больших языковых моделей ИИ На вчерашней конференции Google I/O основное внимание было уделено моделям искусственного интеллекта Gemini , которые должны работать на устройствах …

Наука и Технологии 18:12, мая 15, 2024 | hardwareluxx.ru
МГУ о применении мультимодальных больших языковых моделей в видеоаналитике

МГУ о применении мультимодальных больших языковых моделей в видеоаналитике Ученые МГУ провели исследование по проблеме перевода видео в текст, что позволит значительно сократить время... …

Интернет и Игры 09:12, июня 13, 2024 | cnews.ru
GPT на языке бизнеса: особенности применения больших языковых моделей

GPT на языке бизнеса: особенности применения больших языковых моделей Использование больших языковых моделей для генерации контента популярно не только среди частных пользователей, но и в бизнес-среде. Эксперты ИТ-компа …

Наука и Технологии 00:26, декабря 22, 2024 | ict-online.ru
Разработан метод предотвращения галлюцинаций больших языковых моделей

Разработан метод предотвращения галлюцинаций больших языковых моделей Большие языковые модели (LLM), такие как ChatGPT, научились генерировать тексты, почти не отличимые от написанных человеком, и давать убедительные от …

Наука и Технологии 11:42, мая 23, 2024 | pravda.ru
Исследователи предупреждают о гендерной и культурной предвзятости больших языковых моделей ИИ

Исследователи предупреждают о гендерной и культурной предвзятости больших языковых моделей ИИ Согласно исследованию, проведенному по заказу ЮНЕСКО, популярные инструменты генеративного искусственного интеллекта, такие как GPT-3.5, GPT-2 и Llam …

Гаджеты 22:00, апреля 18, 2024 | gagadget.com
Grok 3 против ChatGPT: больше языковых моделей хороших и разных

Grok 3 против ChatGPT: больше языковых моделей хороших и разных Илон Маск на днях сообщил, что его стартап xAI выпустил новую версию чат-бота Grok 3, и назвал его «самым умным ИИ на Земле». …

Наука и Технологии 07:26, июня 23, 2025 | ict-online.ru
Яндекс открыл доступ к библиотеке для обучения больших языковых моделей

«Яндекс» открыл доступ к библиотеке для обучения больших языковых моделей «Яндекс» открыл доступ для всех желающих к собственно разработанной библиотеке YaFSDP для обучения больших языковых моделей, сообщает пресс-служба ко …

Бизнес и Промышленность 16:48, июня 11, 2024 | finam.ru
Яндекс открывает библиотеку YaFSDP для обучения больших языковых моделей

«Яндекс» открывает библиотеку YaFSDP для обучения больших языковых моделей Компания «Яндекс» выложила в опенсорс библиотеку YaFSDP, которая ускоряет обучение больших языковых моделей — как собственной разработки, так и сторо …

Наука и Технологии 19:30, июня 12, 2024 | xakep.ru
DeepL запустила ИИ-помощника для написания деловых текстов на базе собственных языковых моделей

DeepL запустила ИИ-помощника для написания деловых текстов на базе собственных языковых моделей Компания DeepL, известный разработчик систем машинного перевода, представила нового ИИ-ассистента DeepL Write Pro для помощи в составлении деловых те …

Гаджеты 04:54, мая 1, 2024 | gagadget.com
BMW показала в Китае 15 моделей, включая BMW i4 и Neue Klasse. В этом году будет представлено 20 моделей

BMW показала в Китае 15 моделей, включая BMW i4 и Neue Klasse. В этом году будет представлено 20 моделей На автосалоне в Пекине BMW и Mini представили модельный ряд из пятнадцати моделей автомобилей. От компактных автомобилей начального уровня до больших …

Наука и Технологии 10:48, апреля 29, 2024 | ixbt.com
Apple показала, что у нее серьезные проблемы. Она теряет миллиарды на продажах iPhone

Apple показала, что у нее серьезные проблемы. Она теряет миллиарды на продажах iPhone Позиции Apple на рынке электроники, а потом и сервисов уже давно считаются незыблемыми. Вне зависимости от того, предлагает компания какие-то революц …

Наука и Технологии 19:00, мая 3, 2024 | appleinsider.ru
Настоящий суперкомпьютер Cheyenne, который выставили на аукцион со стартовой ценой 2500 долларов, продали за существенно большую сумму

Настоящий суперкомпьютер Cheyenne, который выставили на аукцион со стартовой ценой 2500 долларов, продали за существенно большую сумму Итак, суперкомпьютер Cheyenne был продан на аукционе. Окончательная цена составила 480 085 долларов. Известно, что участие в аукционе принимали 27 че …

Наука и Технологии 21:30, мая 4, 2024 | ixbt.com
В США разработан законопроект, который позволит ограничивать экспорт моделей ИИ

В США разработан законопроект, который позволит ограничивать экспорт моделей ИИ Американские парламентарии разработали законопроект, который облегчит администрации президента установление экспортного контроля над моделями искусст …

Hardware 07:00, мая 11, 2024 | 3dnews.ru
От Ах, миллиарды, миллиарды! до разочарования: как в Киеве восприняли помощь США

От «Ах, миллиарды, миллиарды!» до разочарования: как в Киеве восприняли помощь США После того, как конгрессмены США одобрили пакет военной помощи Киеву в размере $ 61 млрд, в столице Незалежной это стало темой для горячего обсуждени …

Общество и Регионы 21:12, апреля 23, 2024 | eadaily.com
Renault показала Symbioz, который будет соперничать с Nissan Qashqai

Renault показала Symbioz, который будет соперничать с Nissan Qashqai Новому кроссоверу уготована позиция между более крупным Austral и Captur. Внешность новинки почти полностью скопирована с последнего, а имя ей достал …

Авто / Мото 19:00, мая 2, 2024 | motor.ru
Toyota показала внедорожник IMV Origin, который владельцы будут дособирать

Toyota показала внедорожник IMV Origin, который владельцы будут «дособирать» Toyota представила полноприводный внедорожник IMV Origin. На заводе автомобиль будут собирать на 70%, а оставшуюся часть владельцы смогут доработать …

Наука и Технологии 21:26, ноября 3, 2025 | astera.ru
Google показала ассистента будущего, который видит и понимает всё вокруг (видео)

Google показала ассистента будущего, который видит и понимает всё вокруг (видео) Глава ИИ-подразделения Google DeepMind Демис Хассабис в рамках ежегодной конференции для разработчиков Google I/O рассказал о ранней версии того, что …

Гаджеты 13:24, мая 15, 2024 | 24gadget.ru
Tesla показала робота Optimus, который сам поднимается по лестнице и идет на зарядку

Tesla показала робота Optimus, который сам поднимается по лестнице и идет на зарядку Компания Tesla опубликовала видео, демонстрирующее прогресс в разработке робота-гуманоида Optimus. Робот теперь передвигается более уверенно, умеет п …

Наука и Технологии 14:26, октября 22, 2024 | astera.ru
Boston Dynamics показала Sparkles  мохнатого робопса, который умеет танцевать

Boston Dynamics показала Sparkles — мохнатого робопса, который умеет танцевать Компания Boston Dynamics показала Sparkles — наряженного в специальный костюм робота-пса Spot. Костюм делает Spot похожим на огромную игрушечну …

Hardware 11:54, апреля 30, 2024 | 3dnews.ru
Meta* показала умный браслет, который управляет компьютером движением мышц

Meta* показала умный браслет, который управляет компьютером движением мышц Meta* продолжает развивать свой браслет, который считывает сигналы от мышц руки и позволяет управлять компьютером без касаний. Новый прототип устройс …

Наука и Технологии 14:26, июля 26, 2025 | ferra.ru
Realme показала смартфон, который меняет цвет от температуры окружающей среды

Realme показала смартфон, который меняет цвет от температуры окружающей среды 11:33, 04 марта 2025, автор: Быстрова А.Realme показала смартфон, который меняет цвет от температуры окружающей средыНовая опция использована в модел …

Общие новости 00:26, марта 7, 2025 | incnews.press
Geometric Future показала текстильный компьютерный корпус, который складывается как коробка

Geometric Future показала текстильный компьютерный корпус, который складывается как коробка Компания Geometric Future, основанная выходцами из InWin, показала на выставке Computex 2024 необычный корпус под названием Model 0 Flamingo. Его пре …

Hardware 13:00, июня 7, 2024 | 3dnews.ru
Google показала Project Astra  ИИ-ассистента будущего, который видит и понимает всё вокруг

Google показала Project Astra — ИИ-ассистента будущего, который видит и понимает всё вокруг Глава ИИ-подразделения Google DeepMind Демис Хассабис (Demis Hassabis) в рамках ежегодной конференции для разработчиков Google I/O рассказал о ранней …

Software 13:36, мая 15, 2024 | 3dnews.ru
Катерина Ковальчук показала фотографии с девичника, который организовала мама Гарика Харламова

Катерина Ковальчук показала фотографии с девичника, который организовала мама Гарика Харламова Катерина Ковальчук, которая не так давно вышла замуж за Гарика Харламова, показала, как прошёл её девичник. Фотографии с него она опубликовала в инст …

Знаменитости 21:26, сентября 24, 2024 | spletnik.ru