Рука заперта в печеньице Как GPT4 продал мне свои собственные поддельные новости

Как GPT4 продал мне свои собственные поддельные новости, и я запуталась в печеньице

Как наивность и лень вернулись, чтобы укусить меня за зад

GPT-4 “найдет” все, о чем вы попросите его поискать — включая “исследования” статистической информации, которую вы можете захотеть.

Он найдет это и представит так, как вы попросите — в абзаце, в виде графика, как стихотворение, если вам нравится.

Но как активный пользователь за последние 6 месяцев, я заметил тревожную ошибку в том, как GPT-4 реагирует на конкретные статистические запросы исследования.

• Жюри признает, что App Store Google нарушил антимонопольные законы
• Робот-ушак раскрывает, как рыба плавает так эффективно
• Медицинские искусственные интеллект-инструменты могут совершать опасные ошибки. Может ли правительство помочь предотвратить их?

Он не точен — он использует “заполнительные” данные, не сообщая вам об этом.

Это как ребенок с крошками на лице, который отрицает, что съел последнее печенье.

Откуда я знаю это? Личный опыт.

GPT-4 продал мне свою собственную фейковую новость как факт — из моей собственной статьи, которую я опубликовал несколько месяцев назад.

Я сейчас называю эту статью “Вирус заполнителя”.

Позвольте мне рассказать вам, что произошло.

Все началось с плохо исследованной статьи

Несколько месяцев назад (в мае), до того, как я заметил эту закономерность, я написал статью о том, как GPT-4 активно используется питон-программистами для улучшения своего рабочего процесса.

Во время написания статьи я запросил у GPT-4 некоторую статистику, и он радостно предоставил ее мне — в виде опроса Stack Overflow и опроса Github за предыдущие 2 месяца (март/апрель 2023 года).

О Боже, подумал я, этот GPT-4 просто потрясающий.

Не очень хорошо зная об этом в то время и спеша (да, наивный и ленивый), я вставил статистику в свою статью и нажал на блестящую зеленую кнопку “Опубликовать”.

С тех пор я изменил заголовок и поставил отказ от ответственности в начале статьи.

Фейковые новости: Питон-программисты принимают ChatGPT!

ПРИМЕЧАНИЕ: Эта статья является примером фейковых данных, сгенерированных GPT4

VoAGI.com

Теперь это кейс-стади фейковых новостей GPT-4.