Кажется, нейросети появились в 2022-м — вместе с ChatGPT. На самом деле этой технологии почти семьдесят лет, и её история — настоящие американские горки: гениальные идеи, громкие провалы, две «зимы» и триумфальное возвращение.
1943–1958: идея украдена у мозга
Всё началось с вопроса: можно ли посчитать мысль? В 1943 году Маккаллок и Питтс описали математическую модель нейрона. А в 1958-м Фрэнк Розенблатт построил перцептрон — первую обучаемую машину размером со шкаф, которая училась отличать простые картинки. Газеты обещали думающие машины «через пару лет». Спойлер: понадобилось 60.
1970-е: первая зима
Математики показали пределы простых перцептронов, компьютеры были слабы, деньги закончились. Наступила «зима ИИ» — исследования почти остановились. Лишь немногие энтузиасты продолжали работу: среди них — Джеффри Хинтон, будущий «крёстный отец» глубокого обучения.
1986–2006: тихое созревание
Метод обратного распространения ошибки научил многослойные сети учиться по-настоящему. Появились первые практические успехи: распознавание рукописных цифр на почте и в банках (сети Яна Лекуна читали индексы на конвертах). Но на большее мощности всё ещё не хватало — вторая половина 1990-х принесла вторую зиму.
2012: большой взрыв
Три ингредиента наконец сошлись: видеокарты (созданные для игр, они идеально считают нейросети), большие данные (интернет накопил миллиарды картинок и текстов) и упорство учёных. В 2012 году сеть AlexNet Хинтона и его студентов разгромила конкурентов на соревновании по распознаванию изображений. Началась золотая лихорадка глубокого обучения: сети научились видеть, слышать и переводить. В 2016-м AlphaGo обыграла чемпиона мира по го — игре, которую считали неприступной для машин.
2017–2022: трансформеры и ChatGPT
В 2017 году исследователи Google предложили архитектуру трансформер (статья “Attention Is All You Need”) — способ обрабатывать текст, глядя на все слова сразу. На её основе OpenAI строила всё более крупные языковые модели GPT. В ноябре 2022-го ChatGPT открыли для всех — сто миллионов пользователей за два месяца, самый быстрый старт в истории технологий.
Сегодня и завтра
Современные модели пишут тексты и код, рисуют, говорят и рассуждают. Хинтон получил Нобелевскую премию по физике (2024) за основы этой технологии. Что дальше — читайте в нашем топике The Future of AI.
Главный урок этой истории для школьника: «внезапные» революции готовятся десятилетиями, и делают их люди, которые не бросили дело во время зимы.