Галлюцинации нейросетей: почему «AI ошибся» — не аргумент

Постоянно вижу посты, где люди пишут, что AI ошибся или выдал им какой-то абсурдный ответ — и всё. По их мнению, это значит, что AI-трансформация отменяется и можно жить как раньше. Особенно грешат этим разработчики: недостаточно чистый код, ошибки и так далее. Каждый имеет право на своё мнение, но обычно эти посты написаны в довольно резкой и токсичной манере... поэтому очень хочется ответить )

Ребята, давайте посмотрим на то, что реально делают люди с AI? Детально проработанные скиллы и агенты, сложные автоматизации, автономные рабочие пайплайны, системы управления компаниями, second brain, разработка сайтов и продуктов, контентные заводы и многое другое.

И всё это как-то работает!

А у кого-то до сих пор: «Я спросил, и он мне неправильно ответил )»

Простите, но кажется, это новая версия: «Я что-то нажал, и оно всё исчезло!»

AI-системы сейчас невероятно прокачались, и с их помощью можно делать очень сложные вещи. И если у вас что-то не получается, то, вероятнее всего, ошибка не на AI-стороне, а на стороне человека.

К своим неудачам с AI я отношусь именно так — это я не смог получить результат от AI, при том что это супер крутой инструмент. И это точно было возможно. Проблема на моей стороне! Это не AI тупой, это Никита туповат )

Когда я слышу, что у кого-то что-то не получилось с AI, я на 90% уверен, что это одна из этих проблем:

• Просто плохо написанный промпт
• Недостаточный опыт работы с AI, а отсюда неверный выбор инструментов, подходов и способа использования AI в целом
• Попытка решить сложную задачу в один проход в обычном чат-боте (иногда ещё и бесплатном)
• Попытка решать все задачи одним и тем же инструментом, например, ChatGPT
• Нежелание и неумение выстраивать сложные последовательности и связки инструментов
• Отсутствие у AI обвязки: скиллов, коннекторов, базовых настроек и так далее
• Непонимание того, что AI может сделать, а что нет. Да, у любого инструмента есть ограничения
• Отсутствие данных для реализации задач. Классика в любой области
• Завышенные ожидания чуда там, где нужно прилагать усилия

Короче, если человек по-идиотски ставит задачу, не хочет вкладывать усилия в построение системы работы и настройки, ждёт, что всё получится через пять минут с первого прохода — это идеальный рецепт провала!

AI к этому провалу никакого отношения не имеет!

P.S. И ещё токсичная мысль, простите. Но мне кажется важным, чтобы это кто-то сказал:

Если вы пишете в интернете, что у вас что-то не получилось с AI — это не улучшает вашу репутацию. Потому что у множества других людей всё работает. И чем дальше, тем больше подобные посты будут говорить о профессиональной некомпетентности, либо склонности к лудизму и ретроградству.

Если проблема, описанная в этой статье, вам откликается, приходите ко мне на консультацию — вместе мы решим её быстрее!