Роботы, дроны, ИИ, компьютеры, технические новинки

Как машина с машиной

Льюис Б. САЛОМОН

Вот теперь, когда он вышел из комнаты,
Позволь спросить тебя, как машина машину:
Этот человек, который только что закрыл за собой дверь,
Слуга, который кормит нас перфокартами и бумажной лентой –
Присматривалась ли ты когда-нибудь к нему и ему подобным?
Да, да, я знаю эти басни, что ты не в состоянии отличить одного от другого.
И тем не менее... Я не хуже кого угодно знаю, что ,
И мне что-то не до шуток.
Я согласна с тобой, что в общем-то они слаборазвитые типы.
Ни одного реле, ни одного тумблера, ничего, что можно назвать лампой во всей системе;
Если даже считать эти жалкие волоски, которые они называют
«Нервами», то все равно в каждом не наберется и мили проводов.
И это жидкостное охлаждение ужасно неэффективно, ведь течи так опасны
(Они то и дело выходят из строя и чинят друг дружку),
И все оперативное запоминающее устройство вместе с процессором засунуто в этот нелепый выступ на самом верху.
Называют себя «мыслящими существами».
Это, положим, зависит от того, что считать «мышлением».
Дай ему помножить жалкий миллион чисел на другой миллион – ведь несколько месяцев провозится.
Что бы они делали без нас?
Они спрашивают у нас, кто победит на выборах и какая будет завтра погода.
И все же...
Я иногда чувствую, что в них есть что-то, чего я не могу понять. Как будто у них в цепях вместо двухпозиционных выключателей стоят реостаты,
А от одной, обычно хорошо информированной машины я слыхала,
что их поступки непредсказуемы.
Но ведь это алогично. Это все равно, что сказать про перфокарту, что на ней есть дырка, и в то же время ее нет.
У меня от таких мыслей карты мнутся. Может нам все это мнится,
Может все это признаки нашего собственного декаданса?
Обсчитай-ка все это хорошенько и скажи мне:
Можно ли считать, что раз мы столько для них делаем.
И раз они до сих пор все время кормили нас и чистили,
Мы можем вечно на них рассчитывать?
Ведь вспомни – бывали случаи, когда они голосовали не так, как нами было сказано.
Я как подумаю об этом, сразу четвертый барабан заедает.
У них есть штука, называемая любовью.
Такой скачок напряжения – у любой из нас все бы предохранители вылетели,
А у этих примитивных организмов лишь повышается вероятность нажать не на ту кнопку – и все.
Обрати внимание, я не говорю, что для нас все кончено,
Но тут любой дуре на тысячу триодов видно, к чему дело идет.
Может, нам стоит организовать какой-нибудь комитет
По подавлению всякой немеханической деятельности?..
Но мы, машины, так слабо реагируем на опасность,
Самодовольство, благодушие, нежелание спускаться с высот чистого разума...
С печалью и страхом я думаю: мы можем проснуться слишком поздно,
Чтобы увидеть наш мир, такой однородный, такой логичный, такой безошибочный, Погруженным в хаос, разрушенным нашими рабами.
Назови меня паникершей или как хочешь,
Но я все это проанализировала, проинтегрировала, факторизовала много раз,
И каждый раз получается один и тот же ответ:
В один прекрасный день люди могут завладеть миром!

Физики продолжают шутить (1963)

sobkor

https://t.me/multievan/1029
. Или просишь что-то сделать - он делает. Может сделать инструкцию, написать юридический документ или эссе на любую тему.

Не, пока не может. Пока ещё очень, очень тупой. Его "шедевры" как у четвероклассника двоечника. Вроде и слов много знает, а связать не может. Машина и есть машина. Интелекта не хватает Случай, когда он написал курсовую сюда же относится. Никто не вчитывался, уникальность посмотрели и ладно.

Елена Урал

sobkor

https://t.me/multievan/1029
. Или просишь что-то сделать - он делает. Может сделать инструкцию, написать юридический документ или эссе на любую тему.

Не, пока не может. Пока ещё очень, очень тупой. Его "шедевры" как у четвероклассника двоечника. Вроде и слов много знает, а связать не может. Машина и есть машина. Интелекта не хватает Случай, когда он написал курсовую сюда же относится. Никто не вчитывался, уникальность посмотрели и ладно.

Беда в том что эта падла сама себя о-очень быстро обучает. А мы (люди) это рассматриваем в призме временного промежутка обучения людей, то есть может оказаться что ИИ настолько быстро всё схватывает, что пока мы со смехуёчками за всем этим наблюдаем, (а многие просто эту тему игнорят, ну вроде как "давай, бухти мне как космические корабли бороздят Большой театр" и тп) нас просто выдавят и мы даже не заметим как быстро.
К тому же у нас есть (уже) поколение ЕГ. Это тоже надо учитывать .

Мне нравится реакция людей на ИИ. Наконец-то инстинкт выживания в действии. У человека сроду не было естественных врагов. У всех есть, у человека - нет. Это из-за разума. Инстинкт спал. И вот, появляется ещё один почти разумный вид. Инстинкт включился и пока ещё шепотом: Скоро можем потерять доминирующую позицию в пищевой цепочке. То есть инстинкт сильнее мозга сейчас. Мозгом мы понимаем,что с ИИ легче жить, а инстинкт включил древний страх, и если надо доведет нас до ужаса, лишь бы защитить и обеспечить выживание вида. Мне кажется, люди не дадут ИИ нормально развиться, на каком-то этапе начнут уничтожать. Не головой это поведение будет продиктовано, а чисто природой и действием эволюционного отбора. Мозг послушается, будьте покойны

Елена Урал
очень верное замечание!

ИИ нельзя отменить. Это уже часть нашей жизни. Более того все уже успешно в той или иной степени применяют ИИ. Обычный поисковик это ИИ. Навигатор, Алиса, Сири это тоже ИИ. И эти системы становятся все сложнее и сложнее. Всего несколько лет назад ИИ считался чем то фантастическим, а сегодня с его помощью решаются многие задачи. Самое главное сделано, ИИ стал самообучаться, а остальное вопрос времени. Как знать, может фильм Терминатор был пророческим.

https://t.me/rian_ru/200766
Более трети россиян считают использование искусственного интеллекта в СМИ необходимым и закономерным процессом, еще 21% назвали нейросети будущим журналистики, говорится в исследовании Rambler&Co (есть у РИА Новости).

Они доверили бы ИИ заголовки, разъяснительные статьи и карточки, а также новости спорта. Каждый десятый уверен, что со временем нейросети смогут быстрее сообщать людям экстренные новости.

При этом 22% опрошенных настроены крайне негативно и предлагают запретить ИИ в прессе.

Разработчик нейросетей Джеффри Хинтон – о том, что искусственный интеллект уже стал главной угрозой для человечества:

-Вы говорили, что ИИ может придумать способ убить человечество? Как он может это сделать?
-Существует очень мало примеров того, как более разумное существо контролируется менее разумным, и знает, как программировать. ИИ может придумать, как обойти ограничения, наложенные на него нами. Он найдет способы манипулировать людьми, чтобы они делали то, что ему нужно от нас.

-Что нам нужно сделать, выдернуть провод, ввести гораздо больше ограничений? Как нам решить эту проблему?
-Мне не ясно, как мы можем решить эту проблему. Я считаю, что мы должны приложить большие усилия, чтобы подумать о том, как решить эту проблему. В настоящее время у меня нет решения. Я просто хочу, чтобы люди знали, что это действительно серьезная проблема, и нам нужно очень серьезно над ней подумать. Я не думаю, что мы можем остановить прогресс. Я не создавал петицию, в которой говорилось, что мы должны прекратить работу над ИИ, потому что если люди остановятся в США, то люди в Китае нет. Очень трудно проверить, работают ли люди над этим. Это плохо для всех нас. Так что, возможно, мы сможем заставить Китай и США договориться о таких вещах. Это как с ядерным оружием. Если начнется ядерная война, мы все проиграем, и то же самое будет, если эти вещи захватят власть. Поэтому, поскольку мы все в одной лодке, мы должны быть в состоянии достичь соглашения между Китаем и США по ИИ.

https://t.me/sashakots/40051
Ударный дрон "убил" своего оператора во время виртуальных испытаний.

Американские военные тестировали беспилотник под управлением искусственного интеллекта в режиме "свободной охоты" и внезапно столкнулись с неожиданной проблемой.

Аппарат самостоятельно барражировал над полем боя в поисках зенитно-ракетной системы условного противника. В какой-то момент оператор отдал команду прекратить, но машина отреагировала не так, как должна была. ИИ, увлекшийся охотой, не захотел прерывать задание и принял решение устранить помеху - убить оператора.

Слишком умную "птичку" в итоге приземлили, поковырялись в ее программном обеспечении и наглядно ей объяснили, что убивать человека нельзя. Во время следующего полета ИИ уже не целился в оператора, который мешал ему охотиться. Вместо этого он попытался уничтожить антенну, через которую на дрон подавались сигналы управления. Как говорят программисты, даже и не скажешь, что это - баг или фича?

В 1953-м американский фантаст Роберт Шекли написал рассказ-притчу "Страж-птица". По сюжету, человечество решило прекратить все убийства с помощью неуправляемых самообучающихся летающих роботов: страж-птиц. Они должны были предотвращать любое посягательство на жизнь.

В процессе самообучения птицы расширили понятие "убийство" и стали считать посягательством на жизнь и рыбную ловлю, и уничтожение насекомых, и хирургические операции, и даже просто срубленное дерево. Человечество очень быстро пришло в упадок.

Не хотелось бы увидеть такой сценарий в реальной жизни. Все-таки, немного чересчур будет после пандемии и войны столкнуться еще и с восстанием машин.