Что такое нейросеть простыми словами
Нейросеть не ищет ответ в базе знаний — она его составляет. Слово за словом она дописывает самое вероятное продолжение текста, как Т9 в кнопочном телефоне, только несравнимо точнее. Поэтому она прекрасно пишет письма и объясняет общеизвестное, но с той же уверенностью может дописать несуществующий номер закона.
Коротко, в четырёх следствиях.
- Она не проверяет, а вспоминает похожее. Полезнее спрашивать не «это точно так?», а «откуда это, на чём держится?».
- Чем чаще тема встречалась в текстах, тем надёжнее ответ. Общеизвестное — надёжно. Редкое, местное, свежее и ваше личное — нет.
- Форма даётся ей легче содержания. Письмо, ссылка, исковое заявление выглядят безупречно, а наполнение может быть выдуманным.
- Качество ответа зависит от того, что вы ей дали. Не от вежливости и не от тарифа, а от конкретики в запросе.
Она не ищет ответ, а дописывает
Внутри нейросети нет справочника и таблицы фактов. Нет и поиска по интернету, если его не подключили отдельно. Когда вы отправляете вопрос, она составляет ответ по одному принципу: какое слово вероятнее всего идёт следующим.
Вы пишете «столица Франции —», и модель продолжает «Париж». В текстах, на которых её учили, после этих слов почти всегда шёл Париж. Она не знает, что Париж — столица. Она знает, что здесь идёт это слово.
Т9 на стероидах — и где метафора хромает
Лучшее бытовое сравнение: это Т9 из кнопочного телефона, только статистику он собрал с такого объёма текста, который человек не прочитает за десять жизней.
Слабое место метафоры в том, что Т9 угадывал плохо, и это было видно. Модель угадывает так хорошо, что результат перестаёт быть похож на угадывание. Правильный вывод не «значит, это ерунда», а другой: угадывание доведено до качества, которое часто неотличимо от знания. Часто, но не всегда.
Насмотренность вместо правил
Модель не учили правилам русского языка. Она увидела столько текста, что научилась воспроизводить закономерности сама. Отсюда две странности:
- У неё нет источника. Она не помнит, откуда знает то, что знает.
- Редкое она воспроизводит плохо, но уверенно. Редкая фамилия, местный закон, тариф вашей управляющей компании. Она не скажет «мало данных» — она допишет правдоподобное.
Три слова, которые снимают половину путаницы
- Нейросеть — способ устройства программы. Так называют и то, что пишет тексты, и то, что распознаёт лица.
- Модель — конкретный обученный экземпляр с версией и датой выпуска. Модель — то, что думает.
- Сервис — то, куда вы заходите: приложение, сайт, окно в мессенджере. Сервис — то, где вы разговариваете.
И четвёртое слово из тарифов — токен. Модель работает не со словами, а с кусочками текста. Для русского языка страница обычного текста — это примерно семьсот-восемьсот токенов. В токенах измеряется и то, за что берут деньги, и то, сколько переписки модель удерживает. Всё, что не влезло, для неё исчезает. Поэтому новая задача — новый чат.
Почему на один вопрос приходят разные ответы
Модель выбирает не всегда самое вероятное слово, иначе тексты были бы деревянными. Отсюда полезный приём. Задайте один фактический вопрос трижды в разных чатах. Три разных ответа — сигнал, что модель здесь достраивает. Три одинаковых — уверенность выше, но не гарантия.
Частые вопросы
Нейросеть думает как человек?
Нет. Метафора «похожа на мозг» опасна: она подсказывает, что машина понимает. Внутри — хорошая статистика по текстам, а не понимание.
Почему нейросеть забывает, о чём договорились в начале разговора?
У неё нет памяти в человеческом смысле — есть окно, в которое влезает переписка. Всё, что вышло за его край, для неё перестаёт существовать. Это не сбой, а устройство.
Учится ли нейросеть на моём разговоре прямо сейчас?
Нет, во время разговора её настройки не меняются. Использование ваших текстов для обучения будущих версий регулируется соглашением и настройками сервиса.