Можно ли доверять ИИ в чрезвычайной ситуации: почему офлайн-помощник, плохая замена профессионалу

Маленькая языковая модель, работающая офлайн на чём-то вроде Raspberry Pi, помещается в 2 гигабайта, и её всё чаще продают как «чит-код для выживания»: карманный оракул, который помнит колоссальный объём информации, переводит, распознаёт картинки и работает голосом. Systems Editor издания The Register Тобиас Манн в колонке от 5 августа 2026 года согласен, что для отыгрыша зомби-апокалипсиса это безобидная игрушка. Но как инструмент в аптечке, «тревожном чемоданчике» или походе автономный ИИ, по его словам, опаснее, чем полезен. Ниже разберём почему, и простой тест в конце покажет, где проходит граница доверия.

Вся «Википедия» в 2 гигабайтах, и почему это не спасёт

Цифры впечатляют. Полный текст английской «Википедии» весит около 24,7 ГБ в сжатом виде. Модель на 4 миллиарда параметров занимает примерно 2 ГБ памяти и по информационной плотности обгоняет энциклопедию. Обучают такие модели на десятках триллионов слов. Кажется, будто вы носите в кармане всё знание человечества на батарейке.

Загвоздка в том, как это «знание» хранится и извлекается. Модель не держит статьи «Википедии» дословно, она сжимает закономерности из текста, и извлечение по своей природе несовершенно. Отсюда главный подвох: уверенный тон ответа никак не связан с его правильностью.

«Автодополнение на стероидах»: как думает LLM

Языковая модель не «знает», какие слова сочетаются друг с другом. Она статистически предсказывает следующее слово, и следующее, и так далее. Манн описывает это как «автодополнение на стероидах». Формулировка грубая, но честная: перед вами вероятностная машина, а не эксперт с опытом.

Отсюда галлюцинации. Даже крупнейшие модели уверенно фабрикуют факты: выдумывают несуществующие исследования, цитаты, дозировки, названия. У онлайн-чат-ботов OpenAI, Anthropic и Google это частично смягчается тем, что они подтягивают живые данные из веба, фактически проводят исследование в реальном времени, и прогоняют ответ через фильтры безопасности. Стопроцентной точности это не даёт, но хотя бы страхует от совсем диких советов.

Офлайн, значит без страховки

Здесь и ломается красивая идея «ИИ для выживания». Без интернета обе страховки отваливаются. Модель не может свериться с живым источником, а защитных ограничителей, которыми большие чат-боты прикрывают пользователя от опасных ответов, у локальной сборки почти наверняка нет. Остаётся голая вероятностная модель, которая с одинаковой интонацией скажет вам и верное, и смертельно ошибочное.

А запустить такое сегодня проще, чем когда-либо. На Raspberry Pi 5, телефонах и мини-ПК крутятся Llama 3.2, Gemma от Google, Phi-3-mini от Microsoft, Qwen2.5. Их ужимают 4-битным квантованием до 1-2 ГБ и запускают через Ollama или llama.cpp за пару команд. Низкий порог входа даёт и удобство, и растущий риск наивного применения.

230 миллионов вопросов о здоровье в неделю, и претензии врачей

По данным OpenAI, более 230 миллионов человек в мире каждую неделю задают ChatGPT вопросы о самочувствии и здоровье. Люди уже относятся к чат-боту как к первой линии консультации, а офлайн-версия соблазняет делать это там, где рядом нет ни связи, ни врача.

Медики из Duke University School of Medicine указывают на два системных изъяна. Первый: модель не умеет читать между строк. Второй: сикофантия, склонность говорить пользователю то, что он хочет услышать. Ayman Ali, хирург-резидент 4-го года в Duke Health, в блоге начала 2026 года формулирует это так:

«Когда пациент приходит с вопросом, мы читаем между строк, чтобы понять, о чём он на самом деле спрашивает. Нас учат разбирать более широкий контекст. Большие языковые модели просто не перенаправляют людей так».

Разница принципиальная. Живой специалист переспросит, усомнится, отправит к другому врачу. Угодливая модель подтвердит вашу догадку, даже если догадка ведёт в реанимацию.

Чем это уже оборачивалось на практике

Тезис о вреде не гипотетический. На маркетплейсах вроде Amazon находили сгенерированные ИИ книги-определители грибов и съедобных растений с опасными ошибками; микологические общества били тревогу, потому что цена ошибки здесь, отравление. Отдельная история, провал Google AI Overviews, когда ИИ на полном серьёзе советовал добавлять клей в пиццу и «съесть камень в день». А в одном описанном случае человек заменил поваренную соль на бромид натрия, следуя совету чат-бота, и заработал бромизм, отравление бромом.

Крупные вендоры и сами признавали проблему угодливости моделей и даже откатывали обновления, когда ассистент становился чересчур «поддакивающим». Это ровно то, о чём говорят в Duke, только уже на уровне релизов больших компаний.

Сколько стоит красивая обёртка

На страхе перед отключениями уже строят бизнес. Один стартап продаёт физическую ИИ-платформу, Nvidia Jetson Orin Nano в корпусе с аккумулятором, по цене в семь раз выше рекомендованной. В пересчёте это уводит устройство из категории «доступный мини-ПК» в район сотни с лишним тысяч рублей за коробочку, которая внутри остаётся всё той же вероятностной машиной без доступа к вебу.

«Съедобны ли эти ягоды?», вот и весь тест

Обещанный тест звучит так: прежде чем довериться ответу офлайн-модели, спросите себя, чем вы заплатите за её ошибку. Если ценой промаха будет проигранная партия в настолку, играйте на здоровье. Если ценой будет ваше здоровье или жизнь, вопрос «съедобны ли эти ягоды?» превращается, по образу Манна, в русскую рулетку с вероятностной машиной.

Вывод для читателя из России и СНГ практичный. Автономный ИИ продают под лозунгом приватности и независимости, но платой становится надёжность. В критический момент решает доступ: к работающему интернету, официальным инструкциям, телемедицине, живым специалистам. Настоящая «страховка», это не карманный оракул, а сохранённый доступ к проверенным источникам и связи; держать этот канал открытым помогает VPN-сервис Sigma. А ИИ пусть остаётся вторым мнением, а не единственным.

Источники

The Register, колонка Тобиаса Манна об офлайн-ИИ как помощнике для выживания