Ограничения и ошибки в работе ChatGPT (которые я заметила)
От автора Telegram-канала Аналитика и Growth mind-set (делюсь кейсами с работы, бесплатным обучением, задачами с собеседований).
Чем больше использую ChatGPT для аналитики, написания кода, личных вопросов, тем больше вижу в нем ограничений.
Это не означает, что инструмент плох. Но ограничения важно понимать, чтобы использовать его эффективно.
№ 1. Потенциальная систематическая ошибка в обучающих данных
ChatGPT был обучен на большом наборе текстовых данных из различных источников, включая книги, статьи и веб-сайты, но эти данные могут содержать ошибки. Основываясь на некорректных данных, ChatGPT может ответить неверно.
Поэтому я использую ИИ как еще один источник, но не как единственный источник, подвергаю критике его высказывания.
№ 2. Сам ChatGPT пишет, что у него «Ограниченное знание мира и событий после 2021 года»
Это значит, что если вы попросите что-то после 2021 года, вряд ли ChatGPT это знает. Хотя на некоторые вопросы, связанные с 2022 и 2023 годом он отвечает. Именно поэтому некоторые ссылки, которые он выдает, уже устарели.
№ 3. Если в одном диалоге вы постоянно переключаетесь с темы на тему, то ChatGPT может с трудом отслеживать контекст и генерировать неточные или нерелевантные ответы
Хорошее правило — поддерживать разговор на одну тему в одном чате. Если вы хотите спросить что-то кардинально отличающееся, используйте другой чат.
№ 4. Галлюцинации — когда модель уверенно сообщает полностью неверную информацию
Это часто происходит, когда вы пытаетесь превзойти пределы знаний или возможностей ChatGPT. Например, когда я пыталась попросить ChatGPT сделать краткое содержание видео, которое вышло недавно, он «сочинил» текст, который никак не относится к запрашиваемому видео.
№ 5. Также пока не совсем понятно, что с правами собственности и юридическими последствиями
Вы можете попросить написать песню, при этом как понять, что ChatGPT не сплагиатил эту песню?
И еще: на один и тот же запрос выдавал абсолютно разную информацию. При использовании его в качестве инструмента самопроверки говорил, что мои ответы верные, когда они были неверные и наоборот. Лил много воды и ничего по существу.
Мой вывод — полноценно доверять не следует, как и к любой информации из интернета должно быть применено критическое мышление.
Мой канал Аналитика и Growth mind-set, там публикую больше интересного.