Читать книгу Союз слов и алгоритмов: пишем книгу с нейросетью онлайн
«галлюцинации»
ChatGPT – это большая языковая модель, созданная компанией OpenAI. Она способна генерировать тексты, решать задачи и отвечать на вопросы. Однако иногда ChatGPT может выдавать ложную информацию, которую пользователи принимают за правду.
Почему так происходит? Дело в том, что модель не обучена каким-то конкретным данным, и если она не знает ответа на вопрос, то создаёт новую версию «факта». Это и приводит к появлению галлюцинаций.
Не так давно такая галлюцинация появилась в одном из чатов, где я общаюсь. Я спросила Алису, как зарегистрировать новую профессию, которой нет в реестре. Алиса, видимо не нашла правильный ответ, и выдала "своё видение" ответа на этот вопрос. Довольно забавный и очень далекий от реальности.
Моя коллега, которая увлекается применением ИИ в образовании, как-то рассказала на вебинаре, что Алиса выдала ей информацию про то, что на реке Неве в Санкт-Петербурге есть шлюзы. Даже указала год строительства самого старого шлюза и место его нахождения. Причем, информация выглядела очень убедительной.
Таким образом, самый главный метод в безопасном использовании ИИ, это фактчекинг. Проверяя информацию, мы можем избежать ошибок и заблуждений, которые могут привести к серьёзным последствиям.
Глава 2. Проективная методика + ИИ: как найти идею в глубине своей души
Как вам нравится название этой главы? Я выбрала его из нескольких других, не менее интересных. Давайте покажу, как я это делала. Мы еще будем говорить о том, как написать промпт, или запрос, понятный нейросети, чтобы получить то, что нужно.
В работе над книгой я использовала GPT chat в Telegram, ссылку дам вам чуть позже, на этапе практики. Я задала своему помощнику следующее задание (рис.3)
Рисунок 3. Промпт (запрос) для нейросети
Ответ был следующий (рис.4):
Рисунок 4. Ответ нейросети на промпт
Затем я уточнила запрос. В этой главе я предлагаю читателям выполнить проективную методику «Рюкзак», которая поможет выгрузить свой опыт на лист бумаги. Потом, с помощью нейросети придумать идеи для книг. Мне было важно, чтобы в названии было понятно, о чем будет глава, поэтому, я уточнила задание для ИИ (рис.5):