Болиголов вместо моркови: ложь ChatGPT едва не обернулась катастрофой

Девушка рассказала, что ChatGPT ошибочно идентифицировал ядовитое растение как морковь. Это едва не привело к смерти ее подруги, которая последовала совету чат-бота.

Блогерша Кристи описала ситуацию, когда ее подруга отправила ChatGPT фотографию растения из своего сада для идентификации. В своем ответе ИИ-модель настаивала на том, что это ботва моркови, и перечислила типичные признаки вроде мелкорассеченных и перистых листьев. Когда бота напрямую спросили, является ли это растение болиголовом ядовитым, он неоднократно заверил, что это не так. Второе фото не изменило мнение ИИ, который настаивал на своем, ссылаясь на отсутствие гладких стеблей с фиолетовыми пятнами.

Кристи решила проверить идентификацию и загрузила ту же фотографию в сервис Google Lens, что сразу подтвердило, что на участке ее подруги растет болиголов ядовитый. Вторая девушка начала новую сессию в ChatGPT и загрузила те же изображения. На этот раз модель предупредила о токсичности растения. Простой опыт показал, как кому-то может повезти, а кому-то — нет.

«Она взрослая, и она знала, что нужно задать больше вопросов. Но что, если бы она этого не сделала? Она бы буквально умерла, от этого нет противоядия», — поделилась Кристи.

Поддержать работу блога донатом можно по ссылке.