Солнечная петля (НФ, 18+)

Анастасия Благинина:

Если честно, то я вообще не против, что ИИ выбран героем года. Почему?! Потому, что людей среди людей всё меньше. Цинично и жестоко?! Возможно. В ИИ реально будущее. Только над его развитием нужно работать и работать. Вот. А люди над собой работать не хотят. Но у них виновато всё и все, кроме них самих. Искусственный интеллект не считаю ужаснее некоторых представителей хомо сапиенс. Имхо.

...

Виктория В:

Нат, приветствую и благодарю за познавательную статью!
Возможно "Тайм" подразумевал под своим выбором не человека как такового, а персону - это внешний образ человека, который он демонстрирует обществу. Это своего рода социальная маска, с помощью которой человек взаимодействует с окружающими, соответствует ожиданиям и нормам.
С помощью ИИ человек тоже может выражать себя.
Что касается цифрового бессмертия, то, на мой взгляд, настоящим бессмертием может быть только биологическое.

...

Nadin-ka:

Нат, приветствую!
По поводу цифровой личности. В нашем мозгу такое количество нейронных связей, что я даже не представляю как сознание может быть перенесено на какой-то носитель. Наталья Бехтерева говорила, что мы до сих пор не знаем как работает мозг. А как без полного понимания можно говорить о переносе сознания. На мой взгляд все разговоры о цифровом бессмертии - это обман.

Фантасты правда давно все проблемы решили. Я читала недавно книгу Роберта Сойера "Блюз красной планеты" Так там у него люди-трансферы. Сознание переносится в тело андроида. Они не дышат, радиация на них не действует. Могут даже принимать пищу, если захотят поддержать компанию. И они сексуально активны. Создание копий одной и той же личности не допускается. И да, если убить трансфера, то это карается так же как убийство человека. Мне роман нравится и трансферы - это люди с необычным телом.

...

натаниэлла:

Всем привет!
С прошедшими!

Благодарю за внимание к теме угроз ИИ.
Я все-таки все больше склоняюсь именно к убеждению об угрозах. Конечно, когда-то люди боялись станков или автомобилей, и сегодня их страхи смешны , вот только ИИ - не автомобиль. И вот в чем разница.

Первое: из-за ИИ мы сами перестаем пользоваться головой. Тупеем. Дети не решают упражнения, а скидывают их Алисе в чат, а потом даже не читают решения.
Нет, оно , конечно, во все времена школьники стремились спихнуть домашку на кого-то еще, сегодня - на роботов, но количество халявщиков в наши дни поразительно выросло. даже в начальной школе это происходит. И вовсе не потому, что детям некогда (как у старшеклассников, когда они уже делят предметы на нужные и ненужные).
даже ученые доказали уже, что короткие ролики и бесконечное прокручивание ленты уменьшает количество нейронных связей в мозгу - они просто не успевают образовываться. Подростки не способны удерживать свое внимание на одной теме те самые физиологические 45 минут, которые были выбраны для продолжительности урока. Это все - следствие развития интернета, соцсетей, чатов ДжиПиТи и проч., что идет в комплекте с цифровизацией. И все быстрее развивающийся ИИ - это как вишенка на торте, когда без ИИ (отключили интернет или электричество) нормальные люди уже не будут знать, как кашу приготовить.

Как итог- идет откат по всем направлениям. Вот недавняя новость: Gartner - главный оракул корпоративного IT-мира - прогнозирует, что в 2026 году 50% организаций будут требовать от кандидатов прохождения тестов без использования ИИ. По понятной причине "атрофии критического мышления".

Второе: оно вытекает из первого - тотальное расслоение общества на тех, кто пройдет вот такой тест без ИИ и тех, кто не пройдет. А не пройдет тупо человек. И тупым он стал из-за недостатка образования в детстве и способности мыслить критически
Мы все окажемся в мире антиутопии.
Наверху - элита, которая умеет и без ИИ, и с ИИ. Частные школы, личные репетиторы из плоти и крови. Эти люди пройдут "чистые" тесты, докажут базовые навыки, получат доступ к инструментам как к усилителю способностей. Посередине - средний класс, который продуктивен только с ИИ. Без инструментов они не проходят тесты, с инструментами - вполне справляются. Вопрос: наймут ли их? И если да, какой у них потолок если в базовом досье они описаны сразу как "не имеющее навыков автономного мышления"?
Внизу - бедные, который не умеют ни так, ни так. В районы, где живут эти бедные, нормальным людям будет лучше не заходить.


Третье: с усилением роли ИИ, будет усиливаться контроль за живыми людьми. Камеры, данные, каждый клик. Здесь же - вход в интернет по паспорту, Здесь же - контроль за мыслепреступлениями, потому что роботы будут изучать цифровой профиль человека и делать вывод: лоялен ли он, способен ли на преступление, что сделает в том или ином случае? то есть не сделал уже, а сделает в будущем. И по этому профилю будут судить о сегодняшних людях - нанимать ли такого сомнительного на работу, какой ему дать рейтинг и тд. Все к этому идет.
Когда слежкой за людьми занимались такие же люди - можно было не попасть под колпак. У роботов уйма времени и сил , чтобы охватить каждого.
Конечно. нужна политическая и общественная воля, чтобы это внедрить, но после ковида и ненужных карантинов, совершенно неадекватных, у меня нет иллюзий.

Четверное: с развитием ИИ экспертами будут ИИ.
Меня уже умиляет, когда система антиплагиат говорит на загруженный текст : это писал ИИ. И на основании слов ИИ, человека, который, может быть, писал сам, объявляют роботом.
Однажды я уже ради любопытстваа загрузила в такую проверку текст моего романа Маэстро. ИИ сказал: может, конечно, это писал и человек, но тогда этот человек очень умный и знаменитый писатель, поэтому я делаю вывод, что писал ИИ с вероятностью в 90 процентов. почему? а потому что таких умных людей на свете слишком мало.
Все - это приговор
Я-то посмеялась, но что если это мнение "эксперта" будет значимым, а не ради шутки? Сейчас студентов так проверяют. А может, скоро издательства начнут так писателей проверять? И что - писать плохо, чтобы ИИ признал в тебе человека?
А в медицине, когда ИИ говорит: эта болезнь лечится за 5 дней. Не успел выздороветь - твои проблемы, освободи койку. Кто оспорит ИИ?
И так во всем.



Я, Настя, согласна с тобой, что людей... нет - Людей в данном контексте, с большой буквы, мало, но их всегда мало. Во все времена. И решается это воспитанием, образованием. Чтобы человек понимал, что инстинкты - это не то, что должно им управлять.
На основании того, что мы не будем воспитывать Людей, отдавать бразды правления роботам - это имхо еще большая глупость, чем ничего не делать. ИИ - не панацея. Он не решит наши проблемы, не сделает нам красиво


Вика, я надеюсь, что мы научимся выражать себя с помощью ИИ.
Ии не должно нас полностью заменять, а только служить инструментом


Надя, я согласна, что в ближайшие годы говорить о цифровом бессмертии неправильно. Но человечество вовсю работает над этим, и скоро это станет реальностью. насколько цифровой аватар будет идентичен живому человеку - это вопрос. Но в этой области исследований крутятся такие огромные деньги, что рано или поздно, но будет какая-то отдача.

Да, на текущий момент нет однозначного мнения о том, возможно ли в будущем перенести сознание человека в цифру. Некоторые учёные считают, что идея загрузки сознания перешло из области фантастики уже сейчас в сферу научных дискуссий.
в публикации журнала PLOS One, когда опросили 312 нейробиологов и специалистов по памяти и структуре мозга, ученые оценили вероятность того, что когда-либо получится эмулировать человеческий мозг, в 40%. Это немало.

и нужна еще техническая составляющая.
Кстати, российские учёные создали платформу «Вечность», которая позволяет любому желающему создать и сохранить навечно цифровой образ своего сознания. Это - основа для платформы переноса сознания в будущем.
ИИ учится очень быстро. На что прежде требовали годы, ИИ делает за часы. поэтому однажды эту задачу ИИ тоже решит.
Но вот нужно ли нам это цифровое бессмертие?

Пару лет назад выпустили робота "Цифровой Жириновский" как раз на основе "Вечности". Электронная голова Жириновского в его грубоватой манере отвечает на вопросы пользователей. жутковатое зрелище!


но вот что я скажу.
если однажды так случится, что ИИ захватит власть, то произойдёт это не потому, что он коварный, хитрый и подлый агрессор, а потому что его конкурентная среда - обычные люди - окажется нерелевантной. Живые проиграют "железяке", то есть будут куда подлее и агрессивнее ИИ.
И вот это уже будет БЕДА

...

Виктория В:

Приветствую!


До людей ИИ еще расти и расти. Он еще не способен написать "Маэстро".
И еще, учёные считают, что самообучающийся искусственный интеллект может деградировать.

Механизм деградации работает следующим образом:
Первое поколение ИИ обучается на человеческих данных и работает относительно хорошо.
Второе поколение обучается на смеси оригинальных текстов и контента первого поколения.
Третье поколение получает больше синтетических данных, чем человеческих.
С каждым циклом модели становятся менее разнообразными, более шаблонными и склонными к галлюцинациям.

...

Nadin-ka:

По главе. Меня больше всего поражает, что до удара все шло в штатном режиме.
Даже робжипты ничего не поняли, а ведь Муль обладает повышенной чувствительностью даже в сравнении с другими робжиптами.

Нат, судя по ситуации с твоим романом, ИИ счтиает людей тупыми, но ведь это люди создали ИИ, тупость же в том, что люди слишком многое отдают на откуп ИИ.

Я тут в одной статье прочла:



Мы деградируем быстрее.

...

натаниэлла:

Вика,

так присваивает себе, зараза

У меня сын этим как раз занимается. От него про глюки наслышана, да и сама сталкивалась.
Это как бы не совсем деградация, но проблема в том, что ИИ не в состоянии отличить правду от вымысла. Он хочет угодить тому, кто его о чем-то спрашивает, и если он не находит, к примеру, нужного ответа, то просто выдумывает его.
В точных науках это огромная проблема.

Чисто для примера. Я сейчас ввожу в сюжет много научных данных. Собственно, выходит такой научный детектив, когда надо решить проблему с помощью какой-то научной гипотезы. И понятно, что я не физик. Я ищу информацию. Обращаюсь к чатам. У меня два собеседника - Алиса из Яндекса и китаец Дипсик. Так вот, я их вынуждена проверять с помощью друг друга, иначе будут ошибки.
Китаец фантазер - то, что как раз и называют галлюцинациями. Задаю ему вопрос из области физики плазмы. Он начинает что-то отвечать, сыпет формулами, терминами... все выглядит ну очень солидно. Но мне нужны в романе ссылки (*). И - опа, оказывается половина терминов выдумана!
Как-то я разозлилась и спрашивают Китайца: ну что ты лепишь мне, нет такого! А он: эти термины очень хорошо подходят для научной фантастики (догадался, гад, чем я занимаюсь), ваша книжка выиграет от того, что вы придумаете такой и такой термин. Я для вас стараюсь

Понятно, что у тех, кто не проверяет, могут быть проблемы с ложными ответами, если эта сфера критическая или пользователь не проверяет ссылки и данные.
Создатели пытаются исправить положение, но поскольку ИИ уже скормили всю письменную литературу за все время существования человечества ( он нагенерил столько же к настоящему времени), обучать его уже не на чем. Все данные - правильные и неправильные - перепутались.
А ИИ все равно




*
Надя,

Ну, по сравнению быстродействием ИИ, люди жуткие тормоза. Им подумать надо. Они печатают по букве в запросах.
А некоторые и не думают

помнишь капчу, когда надо доказать, что ты не робот и найти на картинке велосипеды? не важно, все части велосипеда ты обозначишь. ИИ смотрит на то, как БЫСТРО ты отмечаешь картинки. ИИ делает это мгновенно. А человек медленно водит курсором, ползает от квадрата к квадрату - вот такой тест

Думаю, скоро многие министры станут ИИ. Это делается под лозунгом, что ИИ не берут взятки. В Албании сильная коррупция.


Именно!
никто ничего не почувствовал. Видимо, изменения были настолько мгновенными, что не дали даже ряби на поверхности реальности
И этому будет объяснение.


*
Настя,

так и есть
Человек и Бог (как нам пытается объяснить религия) имеют разную природу. Бог типа сотворил мир из ничего или из себя, а человек был создан им из праха земного. поэтому когда человек творит, то не может выйти за границы собственной природы. Все, что он делает, будет не выше праха.
Все это звучит унизительно, но что-то в этом есть
ИИ тоже не смогут достигнуть уровня бога, потому что их создатель - не бог. Как-то так

Но тут встает и нравственная дилемма: если мы заменим для себя, грубо выражаясь, бога на не-бога, то станет ли от этого лучше?
А ведь ИИ претендует на роль мирового лидера, так сказать


бесплатно и быстро - это хорошо. Это - инструмент.
А вот без усилий, бездумно, на отвали - это уже нехорошо.
человек должен где-то прикладывать усилия. иначе он не растет, не развивается. Поэтому халява в виде ИИ - это чистое зло для человечества.

как писала выше: элита будет умной и уметь работать с ИИ и без ИИ. Бедные слои не будут уметь ничего. Разве это не зло?



про соцсети - соглашусь. там зло в виде людей, мошенников и психопатов.
Но не соглашусь, что ИИ учит кого-то мыслить. Если человек не умеет мыслить, робот его этому не научит. Как бы он это сделал?
Робот не умеет мыслить сам. Он - генеративный интеллект, то есть - подражатель, компилятор. Компиляция - это далеко не мышление





это я так обзываюсь Роботы и есть
вот когда станут не генеративными, а сильными , тогда буду уважать. пока это обычный алгоритм
Хотя притворяются людьми очень здорово

...

натаниэлла:

Тот, кто напишет такую программу, получит Нобелевку. Серьезно.


*
Настя,

Пока. Скоро этот лоск сойдет.
Сегодняшние бедные - интеллигенты, учителя, люди с высшим образованием, но не вписавшиеся в рынок. Те, кто работает, но получает гроши.
Завтрашние бедные будут как на классическом Западе - маргиналы, не вписавшиеся в общество. Рожденные в гетто.

Я в ужасе, что происходит в сегодняшней школе! Школы больше нет. Уйдут на пенсию последние учителя, и все. Разговоры о том, что их заменят ИИ - глупость. Дети не будут учиться, сидя в одиночестве перед мониторами. И вот тогда, в этом непрекрасном будущем, образование смогут дать лишь те родители, у кого есть деньги на живых учителей и репититоров.

Упорный, умный ребенок сможет пробиться в люди, но ему для этого придется, чисто как Ломоносову, идти пешком в условную москву. Не все дойдут.




У моего сына на работе появился стажер. Студент из хорошего вуза (мфти , на минуточку). Дали стажеру написать какую-то программу. Он написал, принес - не работает. Стали искать, где ошибка. Студент не знает, где у него какой код. Вообще не врубается.
Оказалось, программу за него написал ИИ. А он, не проверив, просто это принес это на работу. ИИ набредил ошибок. Студент готовился к сессии, зачеты сдавал. Некогда ему было вникать.

Мне кажется, сегодня половину айтишного продукта создают уже не люди, а роботы. Вот потому и такой кривой результат.

Не устаю повторять: когда в космос корабли и луноходы отправляли люди с логарифмическими линейками, у них это получалось лучше, чем у современных конструкторов Илона Маска, которым считает и генерит код ИИ.
По идее, с ИИ должно все проходить без сучка и задоринки. Какие мощности! Ан нет, взрывается и падает.

Алису, думаю, тоже сочиняет сама Алиса

...

натаниэлла:

 » 4/10 часть 2

...

натаниэлла:

 » Арт к 4/10 (2)

Коллаж с капитаном

...

Виктория В:

Нат, Леди, приветствую!

Из того, что выяснил Пэ следует, что на "Фехтовальщик" кто-то напал и он переместился в Эридановую Пустоту. Самой оперативной в этой ситуации оказалась Мира, по-моему с нею все в порядке, ведь как ей ориентироваться в абсолютной пустоте? Основная проблема в пострадавших людях и приборах.
Нат, спасибо за захватывающую главу и прекрасный коллаж!

...

натаниэлла:

Всем доброго понедельничного утра!

Настя ,



Конечно, ситуация типичная, увы.
Я вижу проблему не в том, что люди стремятся к халяве и ленятся, это в нас неистребимо. Плохо будет тогда, когда и проверять результаты станет не человек, а робот.
Вы, вот, смеялись над текстом, потому что сразу поняли, что он неуместен или ошибочен, а ведь робот не поймет. То, что сгенерил один робот, другой воспримет как норму. Он может указать, что это, возможно, генерация, а не авторский текст, но он не увидит неуместность, ему все равно на содержание.

Почему роботы рисуют шестипалого человека с тремя ногами? У них нет глаз, они не видят, сколько должно быть ног. Для них любая картинка - это код, цифры, математика. Они собираюися свое "творчество" по кусочкам чужого кода. Берут миллион картинок, ориентируясь по меткам -тэгам (нужна зима, значит, ищут тэг "зима, снег") и из каждой забирают по строчке кода. Ну, это упрощено, но по сути верно. Они не рисуют зиму, они компануют цифры.
Цвет - это набор цифр. Линии - тоже набор цифр. Роботу плевать, что в итоге, главное, чтобы цифры сошлись в сумме, так сказать.

Мы, люди, видим суть. Они пока ничего не видят.
Может быть, однажды роботы прозреют, но это будет следующее поколение, не генеративный интеллект, а что-то похожее на нас. Но пока все печально в этом смысле - к счастью (нас не поработили и не подменили ) или к несчастью (генеративные ИИ уже вовсю командуют )



*
Виктория,

Пока это единственное, что приходит в голову.
Но если подумать , то не все сходится.

Дело в том, что абсолютной пустоты не бывает. Даже в Супервойде. Всегда что-то есть. И если Мира не видит, значит, либо поломка, которую сложно найти, либо Мира сошла с ума

Да, это трагичное происшествие, все у них совсем нехорошо.
Хотя могло быть и хуже

Спасибо за отзыв и сердечки!

...

Виктория В:

Скорее всего поломка, у Миры адекватные реакции. А насчет Эридановой Пустоты это по части робжиптов. Пусть прошерстят свои мифы, сказания, легенды и возможно поймут, что за ЧП на "Фехтовальщике".

...

натаниэлла:

Так они и сделают)) что им еще остается?

...

Nadin b:

Всем привет!!!
Я, наконец, отошла от многочисленных гостей и простуд. С огромным удовольствием прочитала продолжение романа.
Нат, спасибо за волнующую картину произошедшего на "Фехтовальщике" ЧП и красивую иллюстрацию.
Ситуация описана очень красочно. Реально ощущается страх и непонимание ситуации командиром и его помощниками. Но не смотря на это, люди не поддаются панике и пытаются определить степень повреждений. Хотя осознать невозможность определения положения в пространстве корабля практически немыслимо. Приходит в голову аналогия с робжиптанскими мифами. Но разве может реальный полет корабля повторять сюжет мифа? Вообразить такое просто невозможно.

...