Возрождение классического обучения ИИ: возвращение к корням

В течение прошедшего года существовало мнение, что классическое обучение ИИ, ставшее основой для появления ChatGPT, полностью утратило свою значимость. Однако текущие события показывают обратное: предварительное обучение, которое многие считали мертвым, готовится к возвращению в 2026 году. Основные факторы успеха моделей остаются прежними: объем данных и вычислительные мощности. Современные трансформеры, использующие слои внимания и долгосрочной памяти, продолжают демонстрировать схожесть с моделями десятилетней давности. Тем не менее, в последнее время акцент сместился к обучению с подкреплением, который показал свою эффективность. OpenAI признала, что переусердствовала с пост-обучением и теперь возвращает внимание к предварительному обучению, что может изменить правила игры на рынке. С увеличением значимости предварительного обучения ожидается рост спроса на дата-центры и оптические технологии, что, вероятно, приведет к изменениям в стоимости компаний в данной области.

Понравилась статья? Поделиться с друзьями: