Компания Tether создала новую платформу искусственного интеллекта, предназначенную для запуска больших моделей ИИ на обычных устройствах.
Она позволяет разработчикам точно настраивать модели ИИ непосредственно на смартфонах и потребительских компьютерах. Новая платформа работает с моделями Microsoft BitNet и поддерживает кроссплатформенное обучение.
Она также позволяет ускорять вывод результатов на потребительских графических процессорах и мобильных процессорах. Первая кроссплатформенная платформа тонкой настройки LoRA для моделей BitNet Tether позволяет запускать языковые модели с миллиардом параметров на ноутбуках, смартфонах и потребительских графических процессорах.
И это действительно революционное предложение, поскольку сейчас многие разработчики вынуждены пользоваться вычислительными решениями корпоративного уровня, которые построены на специализированном оборудовании NVIDIA или крупных облачных платформах.
Читать на happycoin.club