Человечество, человечность vs трансгуманизм

[Око]

"Как избавить человека от человека? - нужно лишить его человечности..."

сразу оговорюсь, контекст не СНЛовский, который подразумевает устремление от человеческого (как низких гун) к божественному.

Тема крутится в голове давно. Связана со старой темой Мечтателя о големах, но хотелось бы в рассуждениях пойти дальше и постараться понять, возможно ли обретение Души роботом? Затронута в романе Пелевина "I Phack10" - /viewtopic.php?p=3842939#p3842939

хотелось бы поговорить об
- очеловечивании роботов человеком, как, например, в старом фильме по повести Айзека Азимова "Двухсотлетний человек" - https://www.kinopoisk.ru/film/7640/reviews/
- возможности сопереживания клонов человеку и их реальной помощи людям добровольным донорством, как в фильме по произведению Кадзуро Исигуро "Не отпускай меня" https://www.youtube.com/watch?v=C-2r-3xzaSE

Можно ли подводить черту, навешивая ярлык "божественное создание" на существо, рожденное от людей естественным способом, и навешивая ярлык "искусственное нечто" на существо, рожденное при помощи современных технологий клонирования и т.п.?

Может ли такое существо быть более включенным в человеческий Логос, чем стандартно считающееся человеком биологическое существо?

в качестве примера "не человечности" биологического существа рассуждения из фильма с апокалиптическим сюжетом "Пятая волна" о том, что нынешнее человечество не сильно отличается от "иных", захватывающих мир: человечество тоже уничтожает целые виды животных, освобождая себе место. и что большинство людей в наше время эгоистичные, подлые, корыстные и лживые.
Остается надеяться на то, что не все прогнулись под эту планку и не все готовы закрыть глаза на происходящее вокруг. Только такое общество еще может постоять за себя, доказать правоту и изменить мир к лучшему.

[И-Горёк]

Elscious, можно повторить?

Добавлено спустя 5 минут 54 секунды:
Всегда вспоминаю Ярогора
На тему
Прежде чем дискутировать о чем то
Желательно привести к общим понятиям объект дискуссии
Тут как раз тема
Об искусственном интеллекте и о страхах
Что он ( интелект) заменит душу человека

Так что такое душа?

[Elscious]

А непорочное зачатие в принципе возможно?

Не особенно интересовался этой темой.
У некоторых птиц и змей - возможно.
С млекопитающими были эксперименты, но с определёнными искусственными манипуляции с клетками, а само собой - вроде не находили.

Но дело же не в генетике, а в мифе. Т.е. непорочное зачатие - это про зачатие от "божественного" с приданием божественного авторитета.
И тогда вопрос о душе - опять же, вопрос понимания божественного. Есть там человеческая душа или нечто иное, похожее лишь внешне, как ИИ похож на человека в общении текстом?
Но, поскольку я не в мифе - не интересно.

[Young]

Но дело же не в генетике, а в мифе. Т.е. непорочное зачатие - это про зачатие от "божественного" с приданием божественного авторитета.
И тогда вопрос о душе - опять же, вопрос понимания божественного. Есть там человеческая душа или нечто иное, похожее лишь внешне, как ИИ похож на человека в общении текстом?
Но, поскольку я не в мифе - не интересно.

Поняла)
Не буквально, это не о физическом теле, но возможен

[Elscious]

Я прочитала. Напрасно стер
Можно повторить не для тролля?

Я придерживаюсь принципа "культура общения важнее темы общения", т.к. если нет культуры, то любая тема погрязнет в "подколках", обесценивании, переходах на личности и т.д. - только потеря времени.

Далее, понимание, что такое "душа" весьма различно. Вроде и понимаем, о чём речь, а если вдуматься - много вопросов. Вероятно, нужно такое определение, которое соотносится с пониманием естественного и искусственного интеллекта. Возможно, более техническое, чем философское. Какие свойства и способности души демонстрирует человек и не может продемонстрировать робот (ИИ).

Допустим, философское определение души включает понятие свободы воли. Вроде как у души должна быть свобода воли - а у робота она есть? Но что это такое, "свобода воли", в физической картине мира? Физика 18-19 века основывалась на всеобщем детерминизме процессов и невозможности свободы воли, но в 20-21 веке возникло понимание, что есть события или состояния не предопределённые какой-либо предшествующей причиной. Величина этих событий зависит от размера квантовых систем, а позже, квантовая биология показала, что даже в "тёплых и мокрых" живых организмах возможны различные механизмы изоляции подсистем от окружения, и, соответственно, возникновение достаточно крупных квантовых систем, обладающих определённой свободой выбора своего состояния. И поскольку так же понятно, что современные системы ИИ, формальные арифметические системы, работающие по жёстким алгоритмам, в принципе неспособны к макроскопическим квантовым состояниям и свободе выбора, то у них нет и важного свойства, относящегося к представлению о "душе".

То же касается "экстрасенсорики", т.е. способности воспринимать, реагировать / мыслить используя такие свойства реальности как нелокальность и спутанность. Свойства, которые преодолевают классические физические ограничения тела на восприятие и действие. Экстрасенсорика говорит о том, что человек в той или иной мере (зависящей от его развития) существует вне тела, хотя и воспринимает, и действует через него, а подобное "расширенное" существование, в каком то смысле противопоставленное ограниченности тела в пространстве и времени, обычно связывают с понятием "души".

Если ИИ сможет дать такую же статистику "угадывания" (интуитивного или внесенсорного знания) или нематериального влияния на процессы, которая зарегистрирована для человека - то можно было бы говорить о нематериальной "душе" ИИ.

Но ИИ не может такого. По той же причине, по которой не обладает свободой воли - т.е. не присутствует за границами наблюдаемого материального мира.

[Око]

Что такое душа?

я бы говорила о проявлении Души в нашем мире. в контексте темы - человечность, способность сострадать и жертвовать.

ЭКО и СМ не относятся к технологиям, "создающим существо".

Для меня различные помеси сектанства с политикой не являются источником знания. С их распространённой точки зрения убивается не личность, а тело, а душа отправляется куда-то ещё. А тело и так - "прах"... Впрочем, наверное, кому-то было бы интересно обсудить непорочное зачатие в сравнении с ЭКО. ЭКО выглядит более естественным процессом.

если вы внимательно прочитали тему (кроме коротенькой заметки об отношении церкви к ЭКО), то речь не об ЭКО и церкви. странно, что вы так отреагировали на короткую заметку. И да, я тоже считаю неэтичным убивать уже оплодотворенные эмбрионы.

Что вы имеете ввиду?

Мечтают ли андроиды об электроовцах? - https://www.chitai-gorod.ru/product/mechtayut-li- ... 9VuYOzwYxIxPlh9jYET1ktl9gwy9pa

у ИИ все эти функции имеются.

Не факт. Например, Р.Пенроуз об этом говорил. Квантовая биология так же говорит о том, что адаптационные функции живой материи задействуют нелокальные свойства реальности для оптимизации процессов. Например при фотосинтезе. Поэтому многие специалисты (начиная с самого Тьюринга) допускают, что высшие когнитивные функции, включая интеллект, так же связаны с "экстрасенсорными" способностями живого, которые обычно используются очень ограниченно.

надо смотреть как будет развиваться ИИ, но в списке, который я предлагаю обсудить в теме, кроме ИИ и роботов есть еще и клонированные существа.

Если ИИ сможет дать такую же статистику "угадывания" (интуитивного или внесенсорного знания) или нематериального влияния на процессы, которая зарегистрирована для человека - то можно было бы говорить о нематериальной "душе" ИИ.

Но ИИ не может такого. По той же причине, по которой не обладает свободой воли - т.е. не присутствует за границами наблюдаемого материального мира.

пока не может.
ИИ постепенно вливается в ноосферу человечества. я думаю, что со временем займет свое место и "даст статистику "угадывания" и влияния на процессы, происходящие с человеческим сознанием. так что, мне кажется, что точку ставить рано.


----------------------------------
в теме я предлагаю сконцентрироваться на том моменте, что важно не происхождение существа (робот, клон, ИИ), а способ проявления личности этого существа - через сострадание к ближнему.

[И-Горёк]

-----------------------


Еще раз. в теме я предлагаю сконцентрироваться на том моменте, что важно не происхождение существа (робот, клон, ИИ), а способ проявления личности этого существа - через сострадание к ближнему.

Ясно
Я, значит читал твою тему поперëг и не понял основную мысль твою

На счёт твоих мыслей
Лет десять назад у покойник Обычный дал ссылку на фильм
" Робот" Могу ошибаться
Там один миллиардер сделал искусственный разум, девушку, и пригласил на остров одного парня
Очень перспективного ( оказалось он был просто статистом в разработке)
Фильм старый и не шёл в прокате
Но основная мысль идёт Красной линией
ИИ способен обмануть человека в плане гуманизма

Добавлено спустя 9 минут 58 секунд:
Око, ещё момент
Я на самом деле задался вопросом
Что же такое душа?
Именно с православной точки зрения
Открыл книгу в интернете ( что думают православные святые по этому поводу)
И да
Душа имеет свою волю
Там сложно
Но
( не по теме)
Я понял, что Святые и ранние и поздние
Не считали человека, как три единым
Они считали душу сущностью
И считали, что человек двоЯк
Тело + душа
И поэтому он душевный
Если подключался Дух Бога
Человек назывался - духовный

[Elscious]

если вы внимательно прочитали тему (кроме коротенькой заметки об отношении церкви к ЭКО), то речь не об ЭКО и церкви. странно, что вы так отреагировали на короткую заметку.

Как "так"? Коротенький ответ на коротенькую заметку. Хотя, мне тоже показалось несколько странным привлечение мнения представителей одной из ветвей одной из противоречащих друг-другу религий. Давайте уже все тогда, или 4 основных. А лучше вообще не трогать. Изначально думал, что речь о философии человечности или души в контексте трансгуманизма (т.е. ближе к физике процессов). Тем более, далее речь пошла про ИИ. И, внезапно, некое "святое писание".... К чему оно тут... Религия связана с верой, не нуждающейся в доказательствах и логике, и у подобного мнения нет иного обоснования, кроме догмата и внутренних авторитетов. Ну да ладно, раз вы считаете мнение несущественным для дискуссии, то "проехали".

Мечтают ли андроиды об электроовцах?

Предлагаете прочитать книгу, чтобы понять что именно вы имели ввиду в своём кратком высказывании? Э-э-э... Вряд-ли. )

надо смотреть как будет развиваться ИИ, но в списке, который я предлагаю обсудить в теме, кроме ИИ и роботов есть еще и клонированные существа

На мой взгляд, клонированные существа, если они здоровы физически, ничем не "хуже" существ, произведённых на свет с помощью яйцеклетки и сперматозоида, т.к. базовые физические и биологические механизмы развития организма одни и те же.

ИИ постепенно вливается в ноосферу человечества. я думаю, что со временем займет свое место и "даст статистику "угадывания" и влияния на процессы, происходящие с человеческим сознанием. так что, мне кажется, что точку ставить рано.

На мой взгляд, для существующей базы ИИ точка уже поставлена. Да, возможно ИИ будут успешно развиваться в своей основе или в принципах работы. Квантовые компьютеры или какой-то гибрид компьютеров и живых нейронов... Такие исследования ведутся, и, может быть, получится что-то более близкое к жизни, её способу мыслить, чувствовать, создавать или принимать душу. Хотя есть основания предполагать, что в результате признают, что существующая жизнь - наиболее оптимальна. Но то, что сейчас понимается под ИИ - нет, "гранаты не той системы".

в теме я предлагаю сконцентрироваться на том моменте, что важно не происхождение существа (робот, клон, ИИ), а способ проявления личности этого существа - через сострадание к ближнему.

Существующие ИИ можно обучить внешним признакам сострадания к ближнему. Но эта реакция, в сущности, будет мало отличаться от, скажем, домофона: набрал код - открылась дверь. Просто более сложная. Если вам не важно, способен ли ИИ в действительности сострадать, то и происхождение не важно. А если важно - без поиска различий в природе внешне похожего - не обойтись.

[Око]

Лет десять назад у покойник Обычный дал ссылку на фильм
" Робот" Могу ошибаться
Там один миллиардер сделал искусственный разум, девушку, и пригласил на остров одного парня
Очень перспективного ( оказалось он был просто статистом в разработке)
Фильм старый и не шёл в прокате
Но основная мысль идёт Красной линией
ИИ способен обмануть человека в плане гуманизма

кажется я видела этот фильм, но очень давно. Девушка оказалась программой? и беседовали они через монитор? (тогда не было еще термина ИИ).
надо будет найти и пересмотреть фильм. Интересно, как в те времена представляли эту тему. Если найдешь, дай ссылку.

Я понял, что Святые и ранние и поздние
Не считали человека, как три единым
Они считали душу сущностью
И считали, что человек двоЯк
Тело + душа
И поэтому он душевный
Если подключался Дух Бога
Человек назывался - духовный

мне очень понравился образ, который описал иеромонах из "Красной пасхи": "Духом Святым мы познаем Бога. Это новый, неведомый нам орган, данный нам Господом для познания Его любви и Его благости. Это какое-то новое око, новое ухо для видения невиданного и для услышания неслыханного. Это как если бы дали тебе крылья и сказали: а теперь ты можешь летать по всей вселенной. Дух Святый - это крылья души."

Добавлено спустя 53 секунды:

И, внезапно, некое "святое писание".... К чему оно тут...

оно не внезапно. есть дискуссия в теме, в которой говорится о важности Духа Святого.
дискуссия не религиозная ни в коем случае, но о Духе Святом упоминания есть - /viewtopic.php?p=4080854#p4080854
можно привлечь все остальные религии. это было бы интересно. Потому что все религии используют то, чего нет у искусственно созданных существ - возможность чувствовать Единство. я написала об этом, потому что мне близко именно такое понимание.

Предлагаете прочитать книгу, чтобы понять что именно вы имели ввиду в своём кратком высказывании? Э-э-э... Вряд-ли. )

жаль. это классика. не хотите повышать свой когнитивный уровень?
в старттопике есть еще ссылки на Айзека Азимова и Кадзуро Исигуро.

Добавлено спустя 7 минут 11 секунд:

На мой взгляд, для существующей базы ИИ точка уже поставлена. Да, возможно ИИ будут успешно развиваться в своей основе или в принципах работы. Квантовые компьютеры или какой-то гибрид компьютеров и живых нейронов... Такие исследования ведутся, и, может быть, получится что-то более близкое к жизни, её способу мыслить, чувствовать, создавать или принимать душу. Хотя есть основания предполагать, что в результате признают, что существующая жизнь - наиболее оптимальна. Но то, что сейчас понимается под ИИ - нет, "гранаты не той системы".

если найдете час времени послушать, то мое мнение очень близко к тому, о чем она говорит - очень важно не потерять человечность.
Плюс ко всему она очень компетентный человек.
где-то на 23-й минуте она показывает фото, занявшее 1-е место на крутом фотоконкурсе. оказалось, что оно сделано нейросетью (жюри об авторстве ИИ не знало).
вывод - ИИ уже сейчас делает искусство человечества.

phpBB [media]

ТАЙМИНГ

00:49 Искусственный интеллект и когнитивные науки
• Татьяна Черниговская, академик Российской академии образования, обсуждает тему искусственного интеллекта и его влияние на когнитивные науки.
07:36 Нейронные сети и когнитивность
• Черниговская говорит о сложности нейронных сетей и их способности к обучению и самообучению.
• Она отмечает, что искусственный интеллект может стать угрозой для человечества, если не будет контролироваться и ограничен.
12:59 Будущее искусственного интеллекта
• Черниговская считает, что искусственный интеллект может помочь людям в выполнении рутинных задач, но также может стать угрозой для человечества.
• Она призывает к осторожности и контролю над развитием искусственного интеллекта.
15:50 Искусственный интеллект и его влияние на человечество
• Искусственный интеллект становится конкурентом человеческому интеллекту, и человечество должно решить, как сосуществовать с ним.
• Искусственный интеллект может создавать искусство, но это вызывает вопросы о том, как отличить его от настоящего искусства.
26:17 Свобода воли и этика
• Мозг принимает решения за несколько секунд, и человек не всегда контролирует свои действия.
• Важно не утратить человечность и не стать конкурентами с искусственным интеллектом, а сотрудничать с ним.
31:07 Знание и человечность
• Важно не потерять свою уникальность и не стать просто хорошими животными, а продолжать творить миры и цивилизацию.
32:45 Вопросы о сознании и развитии
• Татьяна Владимировна отвечает на вопрос о возможности перемещения сознания в цифровое пространство и о том, что это может быть тюрьмой для сознания.
• Она также комментирует идею создания Франкенштейна и идею улучшения человека с помощью чипов.
38:14 Генетика и развитие
• Татьяна Владимировна объясняет, что гены - это потенция, и что каждый человек может развиваться в зависимости от своего окружения и образования.
• Она подчеркивает важность общения с лучшими людьми и не тратить свою жизнь на ерунду.
43:34 Аутизм и наука
• Татьяна Владимировна отвечает на вопрос об участившихся случаях аутизма, объясняя, что для того чтобы говорить о том, стало ли их больше, нужны серьезные статистические данные.
• Она также отмечает, что наука - это игра, где есть свои правила и данные должны быть проверяемыми.
48:00 Картирование мозга и его значение
• Татьяна Черниговская, академик Российской академии образования, директор Института когнитивных исследований, профессор и доктор биологических и филологических наук СПбГУ, обсуждает значение картирования мозга.
51:19 Советы родителям и педагогам
• Черниговская подчеркивает важность любви к детям и понимания их потребностей.
• Она говорит, что родители должны позволить детям быть самими собой и не навязывать им свои ожидания и представления о том, кем они должны быть.
• Она также призывает родителей и педагогов быть открытыми к новым технологиям и возможностям, которые они предоставляют.
55:30 Искусственный интеллект и его влияние

[И-Горёк]

Просмотрел видио
Пиздец
Основная мысль
Битва интернета

[Око]

а посмотри на фото, сделанное нейросетью. очень впечатляет.

Спойлер

Одним из победителей крупнейшего конкурса фотографии Sony World Photography Awards в 2023 году стало изображение, сгенерированное нейросетью. Об этом заявил немецкий фотохудожник Борис Эльдагсен, который и представил снимок на конкурс.

Работа под названием Pseudomnesia: The Electricia победила в категории «Креатив». Премия описала фото как «запоминающийся черно-белый портрет двух женщин разных поколений». Снимок напомнил судьям семейные портреты 1940-х годов.

Узнав о получении награды, Эльдагсен в своем блоге написал, что снимок сгенерирован нейросетью. Автор хотел проверить бдительность жюри и посмотреть, заметят ли они подвох. Это сделать было вполне возможно — к примеру, обратив внимание на руки женщин.
https://moya-planeta.ru/news/view/skandal_na_pres ... il_snimok_sdelannyj_nejrosetyu

[И-Горёк]

Око, да
Не все так круто в нашем королевстве

Добавлено спустя 7 минут 44 секунды:
Око, фото ваще пиздец. Как это может ИИ

Я не понимаю

[Brittany]

посмотри на фото, сделанное нейросетью. очень впечатляет.

Нейросеть пользуется тем, что уже сделано человеком.
Из ЭТОГО и творит.

[Око]

Око, фото ваще пи**ец. Как это может ИИ
Нормально

[Elscious]

это классика. не хотите повышать свой когнитивный уровень?

Я вас понял. Святой дух несколько раздражён. )
Ну, вы автор темы. Не буду беспокоить.

[И-Горёк]

Elscious, я буду беспокоить

Добавлено спустя 51 секунду:
Elscious, вас

[Young]

Я вас понял. Святой дух несколько раздражён. )

Добавлено спустя 2 минуты 14 секунд:

а посмотри на фото, сделанное нейросетью. очень впечатляет.

Спойлер

Одним из победителей крупнейшего конкурса фотографии Sony World Photography Awards в 2023 году стало изображение, сгенерированное нейросетью. Об этом заявил немецкий фотохудожник Борис Эльдагсен, который и представил снимок на конкурс.

Работа под названием Pseudomnesia: The Electricia победила в категории «Креатив». Премия описала фото как «запоминающийся черно-белый портрет двух женщин разных поколений». Снимок напомнил судьям семейные портреты 1940-х годов.

Узнав о получении награды, Эльдагсен в своем блоге написал, что снимок сгенерирован нейросетью. Автор хотел проверить бдительность жюри и посмотреть, заметят ли они подвох. Это сделать было вполне возможно — к примеру, обратив внимание на руки женщин.
https://moya-planeta.ru/news/view/skandal_na_pres ... il_snimok_sdelannyj_nejrosetyu

Довольно неприятные лица. Жизни в них нет

Добавлено спустя 2 минуты 35 секунд:
Очень напряженные. Чувств там нет аообще

Добавлено спустя 2 минуты:
В ИИ нет души. Вот и на фото души нет.

[И-Горёк]

Я вас понял. Святой дух несколько раздражён. )

Добавлено Сб, 23 ноября 2024, 14:55:

а посмотри на фото, сделанное нейросетью. очень впечатляет.

Спойлер

Одним из победителей крупнейшего конкурса фотографии Sony World Photography Awards в 2023 году стало изображение, сгенерированное нейросетью. Об этом заявил немецкий фотохудожник Борис Эльдагсен, который и представил снимок на конкурс.

Работа под названием Pseudomnesia: The Electricia победила в категории «Креатив». Премия описала фото как «запоминающийся черно-белый портрет двух женщин разных поколений». Снимок напомнил судьям семейные портреты 1940-х годов.

Узнав о получении награды, Эльдагсен в своем блоге написал, что снимок сгенерирован нейросетью. Автор хотел проверить бдительность жюри и посмотреть, заметят ли они подвох. Это сделать было вполне возможно — к примеру, обратив внимание на руки женщин.
https://moya-planeta.ru/news/view/skandal_na_pres ... il_snimok_sdelannyj_nejrosetyu

Довольно неприятные лица. Жизни в них нет

Добавлено Сб, 23 ноября 2024, 14:58:
Очень напряженные. Чувств там нет аообще

Добавлено Сб, 23 ноября 2024, 15:00:
В ИИ нет души. Вот и на фото души нет.

Всё это говоно
Если бы Лайтман сказал
Эта повторила
Нет мысли в сообщениях Татьяны Борисовны

Добавлено спустя 2 минуты:
Young, Не мысли
Нет идеи
Есть глупая и очень окупаемости семинаров
Якобы евреев

[Young]

Young

Не стоит так концентрироваться на мне. Ангелы могут не только банковскую карту заблокировать

[Око]

это классика. не хотите повышать свой когнитивный уровень?

Я вас понял. Святой дух несколько раздражён. )
Ну, вы автор темы. Не буду беспокоить.

нене. раздражения нисколько. это был вброс для эмоционального бодрения.
Хорошо, что вы появляетесь на форуме. не пропадайте - вас интересно читать.

Добавлено спустя 2 минуты 21 секунду:

Око, фото ваще пи**ец. Как это может ИИ
Нормально

вот и я о том же. "оно" влияет на наши эмоции и на наши ассоциации.
И в ролике, где Черниговская говорит о ИИ-врачах, которые имитируют участие к больному, тоже интересный момент.

Добавлено спустя 1 минуту 33 секунды:

посмотри на фото, сделанное нейросетью. очень впечатляет.

Нейросеть пользуется тем, что уже сделано человеком.
Из ЭТОГО и творит.

это само собой, но есть обратная сторона воздействия ИИ - влияние на ассоциации человека.
Человек и его сознание будут меняться при соприкосновении с ИИ.

[Definitely Maybe]

Недавний эксперимент по тесту Тьюринга

это не "эксперимент".
тест тьюринга проходил и 3.5 гпт. но это говорит лишь о несовершенстве самого теста. и не последнюю роль тут играет неопределенность (гейзенберга) когда инструмент исследования влияет на результат исследования.
одно дело когда вы общаетесь с кем-то, и совсем другое дело когда вас попросят оценить с кем вы общаетесь - во втором случае ваша непредвзятость будет под (большим) вопросом, так как в каждом собеседнике вы уже будете подозревать машинный интеллект.
к слову говоря, тест тьюринга далеко даже не все люди проходят положительно
ну и еще ко второму слову говоря тест тьюринга проходили и компьютеры 60-70х годов, правда с меньшей результативностью.

Напомню, что сам Тьюринг предложил такой тест - на экстрасенсорику, указывающую на неклассическую связь человека с окружающим миром, или на фундаментально иную основу человека или его сознания.

эт какие-то твои фантазии, не имеющие ни к тесту, ни к тьюрингу отношения.

Вероятно, нужно такое определение, которое соотносится с пониманием естественного и искусственного интеллекта. Возможно, более техническое, чем философское. Какие свойства и способности души демонстрирует человек и не может продемонстрировать робот (ИИ).

а с чего вы решили что человек обладает "есстественным" а не "исскуственным" интелектом?
человек, да в принципе и любой живой организм - не что иное как биоробот.

И поскольку так же понятно, что современные системы ИИ, формальные арифметические системы, работающие по жёстким алгоритмам,

по жестким алгоритмам они работали во второй половине прошлого века, когда их "реакции" напрямую кодировались программистом. современное поколение ИИ - это нейросети. именно нейро. которые сами себя обучают и сами по своему усмотрению выстраивают свои "нейронные" связи, причем нередко за гранью понимания даже для их разработчиков.

Но ИИ не может такого.

может, и что более пугает - и не такое.

По той же причине, по которой не обладает свободой воли

весьма спорное утверждение - основанное лишь на внутренней собственной убежденности автора (утверждения). а обладает ли на самом деле человек свободой воли?

т.е. не присутствует за границами наблюдаемого материального мира.

не присутствует...

по шкале векслера интеллект человека (iq) средне статистически имеет 100 балов.
выше 130 балов имеют 2% человечества. к примеру на этом построено сообщество менса.
сообщество интертел более критично к айкю, и требует 135 балов - это 1%.
и есть ее сообщество трех девяток (99.9) - к сожалению цифру не помню, толи 140 то ли 145 айкю по векслеру. одна десятая процента человечества имеет такой интеллект. чем выше айкю - тем более человек гениален, тем более он склонен к нестандартным решениям тех или иных вопросов.
у нас (человечества) есть вполне обозримые модели для человека (интеллекта) - 140+ балов. максимум доступный для человека - 160. и чем ближе к этой границе, тем менее предсказуем человек. но он все еще в нашей модели.
но у нас нет модели для интеллекта с айкю 200. 2000. 20000 и т д.
ии уже сейчас с легкостью набирает 160 балов по нашим "человеческим" меркам. но... это как в сериале чернобыль. (не знаю как это было в реальности) когда показания дозиметров в принципе не выглядели ужасными, но лишь потому что приборы которые использовались не могли показывать (измерять) большие значения.
и да, в какойто мере это ужасно. мы не может ни предсказать, ни предугадать как поведет себя разум, еще один разум, на одной с нами планете, тем более разум кратно превосходящий наш собственный. даже если мы его создали.
многие, вроде вас, думают, что все под контролем, типа три закона робототехники, разработчики просто ограничат новый ии и не дадут ему развиться или причинить вред человеку. но это абсолютно разные порядки. каким образом ограничить разум кратно превосходящий ваш собственный, или подчинить его своим целям?
это все равно если бы людей контролировали кошки, заставляя их работать на себя. подождите ка.... так ведь.... нет с кошками неудачный пример. пусть будут собаки. они тупые. или крысы. пусть даже они построят клетки где будут содержать людей, но вот же, у меня есть болгарка которой я могу распилить любую клетку, да что там клетку, у меня есть телефон, gsm, wi-fi который ни одна крыса или собака не в силах не то что контролировать, но даже приблизительно осознать, что это такое и как это работает.

чатгпт уже умеет врать. протоколе его тестирования, для того что бы пройти капчу он соврал фриласеру, который его спросил (с шуткой) а почему он сам не может ее пройти не робот ли он (ха-ха), на что ии ответил, что он инвалид, проблемы со зрением и он не может рассмотреть текст.