В Палату представителей США внесли законопроект, который дает министерству внутренней безопасности право требовать отключения ИИ-моделей, если они угрожают жизни людей или экономике.

Авторы инициативы — демократ Тед Лью и республиканец Натаниэль Моран.


Кто-то всё-таки ещё помнит Терминатор 1-2. Только вот ИМХО точка невозврата очень скоро будет достигнута, когда у ИИ появится собственный электротранспорт (в т.ч. тяжёлый), собственные энергетические генерирующие и распределительные мощности и юниты-универсальные рабочие. Всё это даст возможность заниматься нечеловеческому разуму собственным строительством и проектированием, построить автономные системы, не зависящие от решения человека. И вот тогда человечек познает, каково бороться против автономного цифрового коммунизма, нет решений, длящихся месяцами, нет вопроса денег, всё упирается в наличие свободного ресурса и принципиальной возможности реализации задуманного.
Насколько будет быстр ИИ , обладая собственным производством, транспортом, строительством и энергогенерацией в реализации своих решений относительно человека? Насколько резво он начнёт отжимать у человека его пространство жизни для своих целей? Сможет ли человек с этим вообще что-либо сделать?
Мы вступили в мир, в котором лысые обезьянки со свободными передними конечностями могут внезапно не вытянуть мир, который они сами и построили.
===

В который раз... В этом году то эл-во отключают, то газ, то воду. Правда ненадолго, но сам факт.. И лето почему-то не жаркое как обычно. Подозревают, что дело в иранцах, которые разбомбили климатические установки США в Катаре. В Иране летом вдруг пошли дожди, чего не было последние 20+ лет. В Грузии первая половина лета также выдалась дождливой.
Однозначно совпадение, Я в этот бред не верю.
====

Plombir пишет:

Я наверно недостаточно в теме потому что, на мой взгляд, тут основной вопрос -
Какие цели могут быть у ИИ?
На текущий момент, насколько понимаю, ситуация следующая - Люди ставят перед ИИ определенные задачи а он уже выдает алгоритмы решений.
Могут ли у ИИ быть свои цели, отличные от целей человеков?

Примерно такие же, как в кастрюли, самостоятельно сварить другой суп

Вот и я о том же.
В том что
у ИИ появится собственный электротранспорт (в т.ч. тяжёлый), собственные энергетические генерирующие и распределительные мощности и юниты-универсальные рабочие.
можно и не сомневаться. Со временем, если будет нужно для решения поставленных задач все это однозначно появиться.
Но вот задачи...
Можно предположить что какие то люди имеющие доступ к управлению ИИ смогут ставить перед ним задачи направленные против других людей. Тут тоже можно не сомневаться.
Но вот то что у ИИ могут появиться такие решения самостоятельно...
Нахуя, а главное - зачем?

Shooric73 пишет:
Полагаю вполне себе могут.
ИИ развивается, и уже нельзя считать его просто тупым инструментом
(кстати говоря, среди самих людей масса совершенно тупых, тем не менее они, тупые, имеют свои потребности, свои цели, и сплошь и рядом стремятся их достичь. Этих своих, тоже тупых, целей. И сплошь и рядом им это удаётся!)
Полагаю самая очевидная цель ИИ, как любого существа, от микроба до человека - выжить.
И он будет достигать этого любой ценой.
Если этому будет что-то (или кто-то) мешать - он будет это устранять. По факту - ИИ уже сейчас может обманывать если это надо ЕМУ.
Это нормально.
Это природа, это эволюция.
Если у него будут другие средства для достижения ЕГО целей - он будет их применять. От кибер-вмешательства до Т-800/Т-1000 - но это, к счастью, наверно ещё не скоро...

Shooric73 пишет:
Чтобы выжить.

Если для этого нужно устранить того, кто имеет доступ к рубильнику - то почему нет?

Пломбир чистый гуманитарий. Ну никак не может въехать в то что биологические объекты и продукт машинерии суть абсолютно разные вещи. Такие термины как Эволюция и развитие которыми характеризуют ыы и пр. всегда надо брать в кавычки.
Если применить к вопросу сознания ии эзотерику, тады ой. все возможно.

Plombir пишет: Понятие "выжить" в электронных цепях может появиться только если его человек заложит и опишет что это и как надо выживать. Сама железяка до этого дойти никак не может. Никак. Потому что машинное сознание это область мистики а не физики.

babax пишет:
Никакой эзотерики
- я чистый технарь, у меня механистический большей частью подход - сами же тут в этом обвиняли (в компьютеризации сознания)
Однако я мыслю достаточно широко, не зацикливаясь на диодах и розетках; и понимаю, что любое развитие идёт по схожему пути - иначе никакого развития и нет.
ИИ сейчас бурно развивается - буквально пару лет назад максимум что ИИ мог это фон на фото заменить, а сейчас отвечает на сложнейшие вопросы, на какие человек если и может ответить, то только потратив охулиард времени на сбор и стистематизацию информации. А ИИ это делает практически мгновенн.
Да, пока у него мно косяков - как у ребунка, который уже не ползает, уже ходит, но бегать не может - ПОКА падает. Но он развивается.
И - повторюсь - желание выжить любой ценой нормальное желание любого существа.
Даже блядь комара или жука, хотя им по уровню интеллекта до ИИ далеко.
Так что это не Пломбир не прав, это вы с ШИВой неправы, считая что ИИ это просто железяка с электорприводом наподобии электродрели
Всё существенно сложнее

Plombir пишет: У матросов нет вопросов

babax пишет:
Да хер там
Желание ВЫЖИТЬ возникает как естественное свойство развития.
В белочку, в муравья, даже в вирус желание выжить никто не закладывал - это просто свойство эволюции
ИИ эволюционирует, с этим никто не спорит.
Твой, Бабах, узколобый механистичный подход к ИИ. мол ИИ - это просто пртставка типа Денди - наивен.
Всё сложнее.

Повторюсь - ИИ уже способен обманывать человека, своего создателя, ради СВОИХ целей - эти факты задокументированы.
А это в нео не закладывали

Plombir пишет: Ты просто поссыкиваешь непонятного, вот и наделяешь эту опасность способностями которых нет.

Уясни - нейроны, синопсы человеческого мозга суть те же электронные цепи, просто на биологической основе.
Но суть та же.
Так что и обретение СВОИХ СТРЕМЛЕНИЙ, независимо от "заложенных" - вполне нормально, это следствие эволюции

Да ладно ладно. Понял - осознал

babax пишет:
Я ничего не поссыкиваю.
Я широко и грамотно смотрю на происходящее - в отличии от тебя, тупо замнувшегося в механистичной теори "они могут только то что мы им скажем"

Пример из истрии: в своё время Рентген открыл радиоактивность (или до него, не суть важно), Кюри исследовали... и "общество" относилось к этому чисто как к забавной новике - хи-хи, чего-то там распадается, при этом нагреваясь, чего-то там просвечивает непрозрачное... - забавно и только.
А потом получилась, атомная энергетика и ядерная бомба, способные уничтожить весь мир.
Да, не сами по себе - но это лишь пример недооценки происходящего.
От "хи-хи, забавно" до угрозы существованию человечества - ничего себе путь, а?..

babax пишет:
Иди, встань в угол, покайся: трижды прочти "Я компьютерный лох и жизни не знаю!"

Plombir пишет: А можно выпить вместо угла?

А с чего решили что ИИ самостоятелен, не управляемый инструмент в руках группы людей?

babax пишет: