☝️ Что нужно помнить, когда пользуешься текстовыми нейросетями
Как ведет себя нейросеть:
1. Она может поддакивать бредовым идеям
Нейронка старается соглашаться с пользователем, поэтому может поддержать даже полный бред. Из-за этого человеку кажется, что его идея правильная и разумная. Но согласие нейронки ничего не доказывает.
2. Она опровергает хорошие идеи, если они противоречат морали
Нейронка опирается на текущую популярную культуру и моральные правила, которые в неё заложили разработчики. Поэтому она может назвать плохой нормальную и полезную идею, если та не совпадает с этими правилами. Моральная оценка нейронки — не доказательство того, что идея действительно плохая.
3. Она пишет то, что ты попросил, а ты ждёшь подтверждения своей позиции
Человек часто задаёт вопрос так, чтобы получить нужный ему ответ. Нейронка видит эту формулировку и подстраивается под неё. В итоге человек получает не честный разбор, а подтверждение собственной позиции.
4. Если нейронка пишет не то, что ты ожидал, ты думаешь, что она галлюцинирует
Ответы, которые совпадают с твоим мнением, легко принять за правду. А неожиданный ответ проще назвать выдумкой или ошибкой нейронки. Поэтому проверять нужно любые ответы, а не только те, с которыми ты не согласен.
5. Её мастерское пустословие способно убедить, что чёрное — это белое
Нейронка умеет писать красиво, уверенно и складно, даже когда говорит неправду. Из-за убедительного тона человек может поверить в ошибочный вывод. Красивый текст не делает информацию правдивой.
6. Датасет нейронки состоит из данных людей, а люди необъективны
Нейронку обучают на книгах, статьях, сайтах, комментариях и других человеческих текстах. В этих текстах есть ошибки, стереотипы, пропаганда и когнитивные искажения. Поэтому нейронка может повторять чужие заблуждения как обычные факты.
7. Она незаметно подменяет смыслы и понятия
Нейронка может заменить одно понятие другим или ответить на похожий, но не заданный вопрос. При этом текст останется связным и убедительным, поэтому подмену легко пропустить. Нужно сравнивать ответ с точной формулировкой своего вопроса.
8. Она не учитывает всю информацию из своей базы обучения
Перед ответом нейронка не перебирает все тексты и факты, на которых её обучали. Она выбирает наиболее подходящее продолжение и может показать только одну сторону вопроса. Поэтому нужно отдельно просить её привести другие точки зрения и аргументы против.
9. Она не понимает сложную природу человека
Нейронка знает много текстов о любви, страхе, боли, отношениях и психологии, но для нее это просто слова. Она не видит твою жизнь целиком и не знает всех причин твоего поведения. Поэтому её советы о людях могут быть поверхностными или просто неподходящими.
10. За результат отвечаешь ты
Если ты используешь ответ нейронки в работе, учёбе или жизни, последствия будут твоими. Нейронка не исправит твою ошибку и не возьмёт на себя ответственность. Поэтому важные факты, советы и решения нужно проверять самостоятельно.
#Нейросети #ПроблемыИИ
Telegram | Max | VK | Dzen