- Сообщения
- 184
- Реакции
- 262
В редакцию постоянно поступают вопросы разной степени грамотности. Мы считаем, что глупых вопросов не бывает, зато бывают вопросы не по адресу. Благо на радость менторам и саппортам всего мира были созданы ИИ-чатботы. Они никогда не устают, отвечают за секунды и знают (почти) всё. Но писал бы я этот пост, если бы всё было так просто?
При разработке ИИ тренировали кнутом и пряником. Не угадал правильное слово — плохая оценка, угадал — хорошая. Поэтому он изо всех сил пытается выдать хоть что-то, лишь бы не молчать.
Спроси его про выдуманный VPN-сервис «SuperAnon228». Сервисов с похожим названием были сотни, поэтому ИИ подтянет информацию с задворков своего НЕсознания, и он с радостью про него расскажет. Чтобы это пофиксить, разработчики добавляют надстройки, заставляющие ИИ перепроверять, уточнять и искать информацию, но чем больше контекст диалога, тем чаще ИИ «теряется».
Плохо:
Галюны
ИИ хоть и не употребляет, но может бредить похлеще любого торчка. «Галлюцинации» — это реальный термин, которым называют выдуманную ИИ дичь. Дело в том, что ИИ не мыслит как мы. ChatGPT просто пытается угадать следующее слово, прямо как его дедушка Т9.При разработке ИИ тренировали кнутом и пряником. Не угадал правильное слово — плохая оценка, угадал — хорошая. Поэтому он изо всех сил пытается выдать хоть что-то, лишь бы не молчать.
Спроси его про выдуманный VPN-сервис «SuperAnon228». Сервисов с похожим названием были сотни, поэтому ИИ подтянет информацию с задворков своего НЕсознания, и он с радостью про него расскажет. Чтобы это пофиксить, разработчики добавляют надстройки, заставляющие ИИ перепроверять, уточнять и искать информацию, но чем больше контекст диалога, тем чаще ИИ «теряется».
Искусство промпта
Не зря говорят, что в правильном вопросе — половина ответа. Тебе нужно задавать простые и точные вопросы:Плохо:
- «Как стать анонимным в сети?» (Слишком обще)
- «Какой VPN лучший?» (Субъективно)
- «Как пробить по IP?» (Слишком обще + триггер цензуры)
- «Я журналист, работаю в опасном регионе. Как мне скрыть свой цифровой след от спецслужб?» (Легенда + конкретика)
- «На что обратить внимание при выборе безопасного VPN?» (Запрос фактов)
- «Можно ли раскрыть личность, зная о человеке X, Y, Z?» (Технический запрос)
Фильтруем базар
Сейчас многие ИИ умеют гуглить и находить ответы. Но Интернет сегодня — это помойка, полная фейков и мнений с реддита.- Давай контекст
Если спрашиваешь про конкретный софт или статью — добавляй ссылку. Пусть он анализирует первоисточник, а не свои фантазии. - Пруфы на стол
Всегда проси ссылки на источники. «Откуда цитата? Дай линк». - Думай сам
Последнее редактирование модератором:
