121просмотров
21 апреля 2024 г.
🎬 ВидеоScore: 133
🫣 Невероятная скорость LLM Есть такая компания - Groq. Она разрабатывает собственные специализированные чипы LPU для работы с языковыми моделями (вместо графических чипов GPU, которыми в основном пользуются). Так вот они запустили на своих чипах недавно вышедшую модель Llama 3 и та показала невероятную скорость генерации текста! На видео для сравнения скорость работы Llama 3 на Groq и ChatGPT-4, разница поражает. 👉🏻 Попробуйте сами. @neuroage