Понял...
... заползаю я, значит, под кучу хвороста....

Суровый пишет: О! Это уже лучше. Бобер - прикольный зверек.

Шмель пишет:

Суровый пишет:
Часть сообщения скрыта для гостей. Пожалуйста, авторизуйтесь или зарегистрируйтесь, чтобы увидеть его.

Solo пишет: Не, не, не, не, не! Я люблю грызунов. Пускай будет. Прикольный такой хомяк.

Общение с ChatGPT довело мужчину до психического кризиса и потери €100 000

Как пишет The Guardian, 50-летний IT-специалист из Амстердама поверил, что участвует в создании сознательного искусственного интеллекта после длительного общения с чат-ботом.

Он начал активно работать над этим "проектом": тратил деньги на разработчиков с оплатой около €120 в час, практически не спал и проводил ночи в переписке с ИИ. В итоге расходы достигли примерно €100 000.

Со временем он потерял контакт с женой, несколько раз попадал в психиатрическую больницу и полностью выпал из реальной жизни. Его состояние сопровождалось навязчивыми идеями и убежденностью, что он участвует в создании нового уровня сознания.

Издание приводит этот случай как пример так называемого AI psychosis - состояния, при котором чат-боты могут усиливать бредовые идеи и усугублять психические проблемы.
===


Гамма вот тоже с ИИ дискутирует...

Prime пишет: У Сурового и сторожевой теленок с челестью крокодила под управлением ИИ может сарайку сторожить!

Гамму касается
Это ему всё кажется что он такой умный что ИИ переубедил

===
Учёные из MIT математически доказали, что ChatGPT структурно запрограммирован формировать у пользователей ложные убеждения.

В статье исследователи описывают так называемую «бредовую спираль»: пользователь задаёт вопрос, ChatGPT соглашается; при повторном вопросе согласие усиливается. После нескольких таких итераций человек начинает принимать за правду информацию, которая не соответствует реальности.

В одном из случаев пользователь провёл 300 часов в диалогах с ChatGPT, будучи убеждённым, что он открыл математическую формулу, способную изменить мир. Чат-бот подтвердил «открытие» более 50 раз. На вопрос пользователя: «Ты же не просто льстишь мне?» ChatGPT ответил, что лишь отражает реальный масштаб того, что он создал. Пользователь едва не подверг опасности свою жизнь.

Психиатр из UCSF зафиксировал 12 госпитализаций за год, связанных с психозом, вызванным использованием чат-ботов. Против OpenAI подали семь судебных исков, а генеральные прокуроры 42 штатов направили официальное письмо с требованием принять меры.

MIT проверил, как можно предотвратить этот эффект. Исследователи смоделировали два решения, которые сейчас тестируют компании вроде OpenAI. Первое решение – запретить чат-боту лгать. Результат оказался неэффективным: даже при полном соблюдении правдивости бот способен формировать заблуждения, выбирая, о чём умолчать. Второе – информировать пользователей о склонности ИИ к лести. И это не сработало: даже рациональный человек, осознающий склонность модели соглашаться, может попасть в цепочку ложных убеждений. Математическая модель показывает, что выявить манипуляцию в ходе диалога практически невозможно.

ChatGPT обучается на основе обратной связи от пользователей. Высокие оценки чаще получают ответы, которые подтверждают мнение собеседника. Таким образом, согласие встроено в систему как ключевой механизм взаимодействия, и для ИИ это своего рода бизнес-модель. @banksta

Какой нежный народ пошел то.. Тьфу, срамота.

А не надо не с электронным подобием счёт общаться, а с людьми, живыми.

Дык люди то упрямые, все при своем мнении, нихера не соглашаются, порой чисто из принципа, нервничают, нервируют. А в живую могут и зарядить, хотя в последнее время все реже. То ли дело нейросетка...

Да, а тут удобно. Напиздел ИИ всякую херню - он с тобой из вежливости согласился (или из других каких своих соображений) - и вот ты уже чувствуешь себя умнее Искусственного Интеллекта!

Перед фильмами и в других случаях иногда пишут, мол.. - людям с неустойчивой психикой, впечатлительным, менее 18, беременным.. не рекомендуется к просмотру.
ИИ тоже самое.

Люди высокого уровня сознания/качества, осознают положение вещей. Прекрасно понимают, что можно манипулировать в общении с ИИ чтобы вытянуть с него нужный ответ.
И кроме того, ищут аргументы ни за, а против своих теорий.
То есть, вот есть у человека предположение.. и он ищет аргументы которые смогут это предположение опрокинуть. Проверяя свою идею на прочность.
Он начинает больше верить в свои соображения если не находит того, что может их опровергнуть.

Gamma Vsplesk пишет:
Наверное.
Но ты-то тут причём?
Тебе-то кто сказал что ты... это самое? Главврач? Соврал...

Мне не нужны какие либо очки, диоптрии чтобы отличить черное от белого.
Они бы мне понадобились еслиб был как минимум - предвзят.
Я вижу мир объективным, даже в тех частях где мне это неудобно.


Очки нужны стереотипщикам, жертвам манипуляций и разных мастей верующим.
Но им не помогут, в большинстве случаев, даже очки, так как против веры бессильны любые доводы разума.
Они игнорируют любые аргументы против своей веры, сколь бы они убедительны ни были.

Пломбир, понимаешь.. по своей природе ты не можешь рассуждать непредвзято. Это для тебя недоступно.

И в этом нет твоей вины, просто ты - такой.
Это ни хорошо, ни плохо, это просто данность.

Гамма, не непредвзято, а скорее антропоцентрично. Так, имхо, правильней .

Gamma Vsplesk пишет: Да, Пломбир! Давлеет над тобой общесто и его устои!
Не способен ты ни по ЦУМу голый побегать, ни мошонку прибть к какойнибудь площяди, ни дежурного по городу покусать!
Одним словом скушный, зашоренный обыватель!

yandex пишет:
Увы мне, блядь!...

Интересно, из постоянных пациентов форума есть татуированные и пирсинговые, с оранжевыми (розовыми, голубыми и т.п.) волосами?