Локальный ИИ на максималках: встречаем BaseRT

Локальный ИИ на максималках: встречаем BaseRT

Забудьте про оплату за каждый токен и риски для приватности. Состоялся релиз BaseRT — абсолютно бесплатного open-source проекта для запуска LLM прямо на вашем устройстве с Apple Silicon.

В чем магия? Инструмент устанавливается всего одной командой. Но самое главное — скорость. BaseRT обходит MLX в 3.9 раза, а популярную среду llama.cpp опережает аж в 6.4 раза!

Почему это круто для создателей продуктов? Для любителей вайбкодинга это означает 100% приватность и возможность тестировать смелые ИИ-фичи без оглядки на расходы. Вы получаете полную независимость от платных API для своих проектов.

Уже пробовали поднимать нейросети локально или пока доверяете только облакам? Делитесь опытом в комментариях!

Локальный ИИ — это когда ноутбук греется не от забытых вкладок, а от тяжелых раздумий нейросети над твоим кодом.

🔗 Источник:: https://www.producthunt.com/products/basert