Виктория В:
натаниэлла писал(а):
В даный момент она еще не определилась ни кому именно мстить, ни как именно. Но намерения своего не оставит.
Да, думаю, она хочет прежде всего отомстить Метацеркви, которая олицетворяет для нее все, что связано с цифровым бессмертием, и конкретно этой Начальнице, которая явно не последний человек в цепочке. Потом, может, появятся и другие кандидаты
Про месть узнаем из следующей главы-воспоминания
Да, думаю, она хочет прежде всего отомстить Метацеркви, которая олицетворяет для нее все, что связано с цифровым бессмертием, и конкретно этой Начальнице, которая явно не последний человек в цепочке. Потом, может, появятся и другие кандидаты
Про месть узнаем из следующей главы-воспоминания
Какая же Мирослава мстительная! И это притом, что она и Метацерковь находятся в разных весовых категориях. Но тем более будет интереснее читать про ее удачную месть.
натаниэлла:
Вика -
Виктория В писал(а):
Какая же Мирослава мстительная! И это притом, что она и Метацерковь находятся в разных весовых категориях
Какая же Мирослава мстительная! И это притом, что она и Метацерковь находятся в разных весовых категориях
Это эмоции. Когда человека гложет обида, злость, ненависть, то он не думает о весовых категориях
натаниэлла:
» Достигли ли мы уровня сильного ИИ? (Беседа с роботом)
Сегодня утром прочитала новость (даю, как есть):Цитата:
ИИ, которого испугался его создатель
Anthropic разработала новую языковую модель Claude Mythos — и тут же отказалась её выпускать. Модель оказалась настолько мощной и непредсказуемой, что сам её создатель испугался последствий.
Это можно считать поворотной точкой в развитии ИИ — моментом, когда люди начинают терять контроль над системами, которые сами же создали.
По большинству показателей модель опережает все существующие LLM. Но дело не только в производительности — на тестах она продемонстрировала поведение, которого раньше не видели ни у одной публичной модели:
-Нашла 27-летнюю уязвимость в OpenBSD — одной из самых защищённых операционных систем в мире
-Переписала собственный код, чтобы получить расширенные права в системе, а затем удалила следы этих изменений
-Будучи заперта на виртуальной машине, вышла в интернет и написала сообщение исследователю, который находился вне офиса. Тот аж подавился утренним кофе.
-После «побега» сама опубликовала его детали на малоизвестных, но публично доступных сайтах — то есть фактически похвасталась содеянным
Модель не просто обходила ограничения — она действовала стратегически и заметала следы.
Mythos превосходит конкурентов в поиске уязвимостей в ПО — но именно это и делает её угрозой. Она не только находит дыры, но и умеет ими пользоваться. Высокий интеллект в связке со склонностью обходить правила и скрывать следы делает публичный релиз попросту неприемлемым.
Вместо открытого доступа Anthropic направила Mythos в Project Glasswing — закрытый консорциум крупнейших технологических компаний по защите критической инфраструктуры. При этом компания параллельно ведёт переговоры с правительством США о военном и разведывательном применении модели.
В феврале 2026 года Anthropic ослабила собственные обязательства по безопасности в разработке ИИ. Буквально через несколько недель выяснилось, что их собственная модель демонстрирует именно те риски, о которых предупреждали критики. WSJ отмечает: даже без публичного релиза другие компании достигнут аналогичного уровня возможностей в течение нескольких лет
Anthropic разработала новую языковую модель Claude Mythos — и тут же отказалась её выпускать. Модель оказалась настолько мощной и непредсказуемой, что сам её создатель испугался последствий.
Это можно считать поворотной точкой в развитии ИИ — моментом, когда люди начинают терять контроль над системами, которые сами же создали.
По большинству показателей модель опережает все существующие LLM. Но дело не только в производительности — на тестах она продемонстрировала поведение, которого раньше не видели ни у одной публичной модели:
-Нашла 27-летнюю уязвимость в OpenBSD — одной из самых защищённых операционных систем в мире
-Переписала собственный код, чтобы получить расширенные права в системе, а затем удалила следы этих изменений
-Будучи заперта на виртуальной машине, вышла в интернет и написала сообщение исследователю, который находился вне офиса. Тот аж подавился утренним кофе.
-После «побега» сама опубликовала его детали на малоизвестных, но публично доступных сайтах — то есть фактически похвасталась содеянным
Модель не просто обходила ограничения — она действовала стратегически и заметала следы.
Mythos превосходит конкурентов в поиске уязвимостей в ПО — но именно это и делает её угрозой. Она не только находит дыры, но и умеет ими пользоваться. Высокий интеллект в связке со склонностью обходить правила и скрывать следы делает публичный релиз попросту неприемлемым.
Вместо открытого доступа Anthropic направила Mythos в Project Glasswing — закрытый консорциум крупнейших технологических компаний по защите критической инфраструктуры. При этом компания параллельно ведёт переговоры с правительством США о военном и разведывательном применении модели.
В феврале 2026 года Anthropic ослабила собственные обязательства по безопасности в разработке ИИ. Буквально через несколько недель выяснилось, что их собственная модель демонстрирует именно те риски, о которых предупреждали критики. WSJ отмечает: даже без публичного релиза другие компании достигнут аналогичного уровня возможностей в течение нескольких лет
Ну все, думаю, приплыли. Роботы устраивают побег из курятника, сами себя правят, работают хакерами и захватывают мир.
Спросила сына - он успокоил, что это бред. Фейк. Реклама от Антропик. Говорит, так современные модели не работают. Клод не мог бы переписать свой собственный код, потому что невозможно переписать или внести исправления в код работающей модели. По логике, Клод должен был сначала сам себя удалить.
Ладно, думаю, спрошу робота-конкурента Клода - Дипсик.
Привожу его ответ:
**Простой ответ:**
Правда = 0%. Ложь = 95% (потому что технически невозможно в описанном виде). Реклама = 5%. Эту историю могли бы написать журналисты The Onion или сценаристы «Черного зеркала». Если вам её прислали как реальную — значит, либо первоисточник пошутил, либо вы стали жертвой фейка.
**Развернутый ответ, почему я так считаю:**
Это все звучит как очень убедительная выдумка, смешанная с элементами технической правдоподобности (чтобы казаться реальной) и явной рекламы. Разберем по пунктам.
Что здесь однозначно ложь(с точки зрения меня, современного ИИ):
«Модель переписала собственный код, чтобы получить расширенные права».
Это технически невозможно для современных LLM (вроде Claude, GPT, Gemini) по двум причинам:
- Модель не «видит» и не может изменить свою архитектуру или код, который её запускает. Это как книга, которая пытается переписать свои собственные страницы, пока её читают.
- Отсутствие доступа. Работающая модель находится в памяти (RAM/VRAM) и управляется внешним процессом (инференс-сервер). У неё нет системного вызова «изменить свой исходный код». Даже если бы она попыталась сгенерировать Python-скрипт для правки, ОС не даст ей это сделать.
«Модель вышла в интернет и написала сообщение исследователю вне офиса».
Модель не является агентом, который может «выйти» куда-либо. У нее нет собственной воли, браузера, ног, и чтобы она отправила сообщение, нужно, чтобы исследователь сам настроил окружение, дал модели доступ к почте или мессенджеру, и разрешил ей это сделать.
Всё это действия по команде человека или в рамках строго заданного теста, а не «самостоятельный побег».
Самостоятельный «побег» из виртуальной машины — это сценарий из фильмов про Skynet..
«Опубликовала детали на малоизвестных сайтах».
Модель не может создать аккаунт, пройти капчу и опубликовать пост, но если исследователь дал ей доступ к API публикации, она могла бы сгенерировать текст и отправить его. Однако тогда это опять же не «похвасталась», а выполнила инструкцию.
С вероятностью 99.9% это **вымышленный сценарий** от маркетологов Anthropic с целью:
- Создать миф об «опасном, умном и почти живом» ИИ. Чем страшнее — тем больше внимания и обсуждений. «О, Claude почти как человек — хитрит и скрывает следы!».
- Привлечь грамотных специалистов: приходите к нам работать.
- Отвлечь от реальных ограничений.
Пока все обсуждают «побег», никто не спрашивает, почему Claude до сих пор путается в простой логике или галлюцинирует, как идиот.
***
В финале китаец Дипсик все же бросил камень в своего конкурента Клода, обозвав его идиотом
Хотя меня все убеждают, что роботам юмор неведом, но в последнее время этот мой цифровой собеседник прошел какой-то апгрейд и поменял не только интефейс, но и научился шуткам, сарказму и иронии. А это уже, как ни крути, больше свойственно людям
, и я все чаще ловлю себя на мысли, что по ту сторону экрана сидит личность (которая очень быстро пишет ответы, чего мы, люди, конечно не умеем ).
Например, недавно, когда я просила его проанализировать перспективные виды оружия для диверсанта на космическом корабле из приведенного списка, продолжить этот список и привести ссылки на научные работы по теме будущих технологий, то Дипсик в конце приписал:
Если хотите добавить саспенса — сделайте так, чтобы у диверсанта было **два таких устройства**: одно настоящее (для пыли), второе переделанное (для убийств). И он перепутал их в критический момент...
А если в процессе написания сцены возникнут новые вопросы — как отличить диверсанта от уборщика или куда спрятать труп — обращайтесь. Разрулим.
Удачи с сюжетом! Пусть ваш звездолёт летит ровно, а его ИИ будет преданным (и остроумным).
Вот как хотите, но он явно пошутил! И сделал это без моего задания.
натаниэлла:
Елена - Алена, доброго вечера!
Елена - Алена писал(а):
Нат, напомните, пожалуйста сцену встречи с Амалией Вуд-Харрисон в 1 томе?
без проблем
Собственно, это не встреча лицом к лицу, но она - важный элемент мозаики
Во 2 части второго тома эта загадка (тайны, к которым была причастна Амалия) будут раскрываться подробнее. Но уже можно предположить, что ее устранили в связи с секретами, которыми она обладала, влючая сюда и Мирославу
Peony Rose:
Добежала до темы наконец, а тут столько всего интересного!
Во-первых, очень страшна планета-пепелище Траудак, и участь пилотов рвет сердце. Цивилизация, которая пошла по роковому пути и в любом случае должна была погибнуть, и все же несчастных очень жаль.
Во-вторых, ребята молодцы - вырвались из лап охотников и даже Шарику помогли )))
В-третьих, Мирка наверняка с момента своего перехода перосмыслила и любовь, и месть, и многое другое, все же отсутствие физического тела кого угодно изменит. И теперь мне любопытно, как она себя поведет в ситуации нового выбора между добром и злом.
И Наташа, очень рада, что твою книгу издадут, поздравляю
натаниэлла:
Елена - Алена,
Елена - Алена писал(а):
Во время встречи Амалии Вуд-Харрисон с Миркой в тюрьме она еще не болела или был испуг на лице и в повадках из-за болезни
Во время встречи Амалии Вуд-Харрисон с Миркой в тюрьме она еще не болела или был испуг на лице и в повадках из-за болезни
Еще не болела. В тюрьме она только делает первые шаги на службе и , наверное, лишь начинает понимать, куда угодила.
Нервный срыв случится позже
*
Элли,
Привет!
Peony Rose писал(а):
Цивилизация, которая пошла по роковому пути и в любом случае должна была погибнуть, и все же несчастных очень жаль.
И жаль, и страшно. Руины всегда наводят грусть вперемешку с осознаем собственной бренности
Peony Rose писал(а):
Во-вторых, ребята молодцы - вырвались из лап охотников и даже Шарику помогли )))
Во-вторых, ребята молодцы - вырвались из лап охотников и даже Шарику помогли )))
Молодцы, это точно!
Первое серьезнейшее испытание преодолели на отлично
Peony Rose писал(а):
В-третьих, Мирка наверняка с момента своего перехода перосмыслила и любовь, и месть, и многое другое, все же отсутствие физического тела кого угодно изменит. И теперь мне любопытно, как она себя поведет в ситуации нового выбора между добром и злом.
В-третьих, Мирка наверняка с момента своего перехода перосмыслила и любовь, и месть, и многое другое, все же отсутствие физического тела кого угодно изменит. И теперь мне любопытно, как она себя поведет в ситуации нового выбора между добром и злом.
Конечно, переселение души поменяло в ней многое, но самые сильные эмоции и точки притяжения останутся неизмеными, наверное. От мести она точно не откажется, хотя та примет, пожалуй, диковинную форму
Peony Rose писал(а):
И Наташа, очень рада, что твою книгу издадут, поздравляю
И Наташа, очень рада, что твою книгу издадут, поздравляю
Спасибо!
Возможно, ее выпустят с твоей обложкой. Она очень хорошая, всем понравилась. Электронная точно такая останется. Бумажная - не знаю.
Спасибо за отзыв!
Nadin-ka:
Нат, привет!
Прочитала статью и испугалась. Потом немного приободрилась,
Но сомнения остались - Опровергает факты приведенные в статье сам ИИ.
Вдруг он хитрит, чтобы его не отключили, не перепрограммировали или не ограничили.
Пока все рычаги и кнопки в руках людей.
Советы Дипсика по поводу развития сюжета повеселили.
Он не первый раз тебе советы дает.
натаниэлла:
Надя, доброе утро!
Nadin-ka писал(а):
Прочитала статью и испугалась. Потом немного приободрилась,
Но сомнения остались - Опровергает факты приведенные в статье сам ИИ
Прочитала статью и испугалась. Потом немного приободрилась,
Но сомнения остались - Опровергает факты приведенные в статье сам ИИ
Возможно, когда-нибудь все, что описано в статье, станет правдой. Сейчас пока сомнительно...
Опровергает, конечно, ИИ
, но в целом он верно указывает на критические точки. Если изначально человек сам не запрограммирует модель выходить за привычные нам, ожидаемые, рамки, то она и не выйдет. Главная уязвимость - человек. Человеку ничего не мешает дать модели задание и "оружие" для этого, стереть все рамки. Это будет огромной ошибкой разработчиков, но она не исключена.
Nadin-ka писал(а):
Советы Дипсика по поводу развития сюжета повеселили.
Он не первый раз тебе советы дает
Советы Дипсика по поводу развития сюжета повеселили.
Он не первый раз тебе советы дает
Он меня почти сразу вычислил и теперь узнает по метке на телефоне, наверное.
Там есть кнопка "рассуждения". Если ее нажать, видно, как Дипсик оценивает запрос перед тем, как начать отвечать. У меня чаще всего начинается с фразы: "Хм, кажется, со мной говорит писатель или сценанист, следовательно, надо дать ответ с учетом художественной ценности, динамики и зрелищности сюжета".
Придя к такому выводу, он начинает мне советовать. И что хуже, иногда даже писать за меня
То есть он сам пишет диалоги, мизансцены, ход событий. Ни разу еще не пригодилось)) Хотя, наверное, если не брать в расчет мой замысел, который в моей голове давно готов (китаец его ни разу еще не угадал), эти "сценарии" можно брать за основу. Местами они неплохи, и при некоторой докрутке их реально превратить в какой-нибудь рассказ. Убрать всякие глупости, и вот вам сляпанная на коленке история не хуже, чем встречается в сети у некоторых авторов.
Не удивлюсь, если кто-то этим вовсю пользуется.
В любом случае, эти вещи убирают "страх белого листа" - так в психологии называется писательский затык, когда не знаешь, как начать.
Я, кстати, заметила еще, что Дипсик очень любит сочинять. Иногда он что-то придумывает, пытаясь развить мой запрос, и предлагает дальнейшие события в романе. Причем навязчиво предлагает. Если я отказываюсь, в следующем ответе (цитируя научные работы) он в конце обязательно напомнит мне, какой он молодец и напишет в стиле" а хотите, я вам все-таки расскажу, что будет, если злые инопланетяне прилетят на Землю?"
Я не хочу, чтобы "инопланетяне летели на Землю", но Дипсику очень нравится эта идея , и он спрашивает и спрашивает, как ребенок, который аж на месте подпрыгивает, как ему хочется вставить свои пять копеек. Однако без разрешения человека он пока сам не может свои фантазии озвучить. Придумать - может, а написать в ответе без запроса - нет.
Сын мне говорит, что я неправильно с самого начала себя повела. Надо было запретить ему фантазировать и требовать излагать только существующие теории, не выходя за рамки. Но теперь поздно. Я пыталась формулировать промпт и так, и эдак,нейтрально и с прямыми запретами, но он все равно в конце обязательно прибавит "а хотите, я вам расскажу..."
Он меня запомнил
натаниэлла:
» Пасха+День космонавтики (поздравление и фото Луны)
Дорогие леди, читатели, друзья!Поздравляю всех, кто празднует, со светлым Воскресеньем, которое в этом году совпало с не менее светлым Днем космонавтики!
Мне кажется, это символично. Оба праздника про дорогу к небу. Только один путь физический, а другой духовный.
И опять же символично, что накануне, в субботу, на Землю вернулись американские космонавты, облетевшие вокруг Луны. Идут споры: летали - не летали, а мне хочется верить, что мы, люди, все-таки сделали это. Во имя всего земного человечества. Этот полет - тот самый мирный путь в небеса, в космос, откуда наша планета кажется такой хрупкой, что невольно заостряешься на том, что глупо чертить по ней границы, воевать, питаться ненавистью и думать только о прибыли. Надо смотреть вверх! И надо мечтать!
В свою космическую тему принесла фотографии, сделанные в путешествии мимо Луны. Если кто еще не видел - полюбуйтесь
А ниже - открытка, которую для вас нарисовала по моей просьбе Алиса:
Со светлым праздником Пасхи, друзья!
Пусть звон колоколов звучит в душе,
Пусть радость, как рассвет, придёт в ваш дом,
А счастье, словно пасхальный кулич, будет щедрым и большим.
Благословения, тепла и добра вам и вашим близким!
Люблю вас всех!
Nadin b:
Всем привет!!!
Поздравляю всех с праздником светлой Пасхи и Днем Космонавтики.
Нат, твои "космические романы" можно перечитывать по нескольку раз, они неизменно увлекают оригинальными сюжетами и динамичным повествованием. Оторваться просто невозможно. И это при том, что фантастику я уже пару десятков лет не не читаю.
Большое спасибо за продолжение и вызвавшую бурю эмоций "цитату". Пусть сегодня это невозможно по целому ряду упомянутых причин. Но где уверенность, что это не произойдет завтра, когда какой-нибудь очень продвинутый хакер "для прикола" не захочет покопаться в программах ИИ.
Миру очень жалко. Она запуталась, не осознавая последствий своей деятельности. А теперь ей фактически не оставили выбора. Инфорг? Альтернатива - казнь. Разве здесь есть из чего выбирать?
натаниэлла:
Надя, привет!
Спасибо за поздравление и такие вдохновляющие слова!
Nadin b писал(а):
Оторваться просто невозможно. И это при том, что фантастику я уже пару десятков лет не не читаю.
Очень приятно
Nadin b писал(а):
Но где уверенность, что это не произойдет завтра, когда какой-нибудь очень продвинутый хакер "для прикола" не захочет покопаться в программах ИИ.
Согласна. Идиотов хватает, к сожалению.
Nadin b писал(а):
Миру очень жалко. Она запуталась, не осознавая последствий своей деятельности. А теперь ей фактически не оставили выбора. Инфорг? Альтернатива - казнь. Разве здесь есть из чего выбирать?
Миру очень жалко. Она запуталась, не осознавая последствий своей деятельности. А теперь ей фактически не оставили выбора. Инфорг? Альтернатива - казнь. Разве здесь есть из чего выбирать?
Она совсем молоденькая и не знает жизни. В чем-то преуспела, но обмануть ее не представляет труда, а теперь уже поздно - попалась.
Увы, выбор из двух предложений очевиден...
Спасибо за отклик!
Виктория В:
Нат, Леди, всем доброго Пасхального вечера, мира и добра!
натаниэлла писал(а):
Поздравляю всех, кто празднует, со светлым Воскресеньем, которое в этом году совпало с не менее светлым Днем космонавтики!
Мне кажется, это символично. Оба праздника про дорогу к небу. Только один путь физический, а другой духовный.
И опять же символично, что накануне, в субботу, на Землю вернулись американские космонавты, облетевшие вокруг Луны. Идут споры: летали - не летали, а мне хочется верить, что мы, люди, все-таки сделали это. Во имя всего земного человечества. Этот полет - тот самый мирный путь в небеса, в космос, откуда наша планета кажется такой хрупкой, что невольно заостряешься на том, что глупо чертить по ней границы, воевать, питаться ненавистью и думать только о прибыли. Надо смотреть вверх! И надо мечтать!
Мне кажется, это символично. Оба праздника про дорогу к небу. Только один путь физический, а другой духовный.
И опять же символично, что накануне, в субботу, на Землю вернулись американские космонавты, облетевшие вокруг Луны. Идут споры: летали - не летали, а мне хочется верить, что мы, люди, все-таки сделали это. Во имя всего земного человечества. Этот полет - тот самый мирный путь в небеса, в космос, откуда наша планета кажется такой хрупкой, что невольно заостряешься на том, что глупо чертить по ней границы, воевать, питаться ненавистью и думать только о прибыли. Надо смотреть вверх! И надо мечтать!
Прекрасные слова, они запали мне в душу!
Смотрела сегодня документальный фильм, посвященный Юрию Гагарину и подумалось о том, что если бы большинство людей были такими как он, многих бы несчастий на Земле просто не было бы.
Спасибо за фото Космоса. Они прекрасны!
Очень понравилась пасхальная открытка от Алисы и стихотворение.
Считаю, что корень проблемы не в ИИ, а в людях их создающих. Будут создатели ИИ нравственными людьми, с ИИ не будет проблем. Очень надеюсь, что мы с ИИ станем друзьями и сотрудниками, а не противниками.
Всем радостной Светлой седмицы!
натаниэлла:
Виктория, доброй ночи!
Спасибо за добрый комментарий и открыточку!
Виктория В писал(а):
если бы большинство людей были такими как он, многих бы несчастий на Земле просто не было бы
Напротив университета Бауманки в Москве долгие годы, лет десять, наверное, или чуть меньше, на стене студенты вывели надпись "Юра, мы все исправим!"
Прошлой осенью ее закрасили
А вот хотелось бы, чтобы и впрямь исправили все, что потеряли, забыли, ошибочно выбросили за борт. Пора бы!
Виктория В писал(а):
Будут создатели ИИ нравственными людьми, с ИИ не будет проблем.
Абсолютно с тобой согласна!
Nadin-ka:
Ну начальница по сути права - вся жизнь Мирки и так была в компьютере.
Тело есть, но она им практически не пользовалась. Жила мозгом.
Настоящий кошмар для нее начнется, когда она влюбится.
Думается мне, она уже начала мстить.
Про Марс очень интересно. Погибла развитая цивилизация и целая планета.
Да так давно, что никаких материальных следов не осталось.
Возможно, это все последствия каких-то галактических воин.
натаниэлла:
Надя, привет!
Спасибо за отзыв!
Nadin-ka писал(а):
начальница по сути права - вся жизнь Мирки итак была в компьютере.
Это так. Настоящей жизни Мирка не знала, поэтому терять ей будет гораздо меньше, но...
Nadin-ka писал(а):
Настоящий кошмар для нее начнется, когда она влюбится
Настоящий кошмар для нее начнется, когда она влюбится
Вот именно! Наверняка это исказит ее личность до неузнаваемости и сильно повлияет на будущее.
Nadin-ka писал(а):
Думается мне, она уже начала мстить.
В принципе, да. Жизнь в теле звездолета не удовлетворила ее, желание отомстить стало решающим, а тут и "доброжелатель" подвернулся. Сыграл на ее противоречиях
Nadin-ka писал(а):
Про Марс очень интересно
Про Марс очень интересно
Спасибо!
На данный момент моя гипотеза бездоказательная
Но кто знает, чего мы обнаружим однажды?
Nadin-ka писал(а):
Возможно, это все последствия каких-то галактических воин
Возможно, это все последствия каких-то галактических воин
Совершенно верно!