ВСТУПЛЕНИЕ
В человеке издревле борются два противоположенных начала: творчество и разрушение. Это приводит порой к очень непредсказуемым, на первый взгляд, последствиям. Но какую в действительности эта двойственность, так называемого “инстинкта”, играет роль? Что на самом деле скрывается под “маской” этого деления? Что является доминирующим?
Какие выводы нужно сделать от сюда, для достижения равновесного состояния? Какому пути человечество должно придерживаться для этого, и какие действия нужно принимать при поиске данного пути? Чтобы ответить на все эти вопросы, необходимо понять, в-первую очередь, сущность обоих явлений. Но даже для ЭТОГО, нужно предварительно заглянуть глубже: понять их природу, связь, как с человеческим индивидуализмом и фундаментальностью (т. к. для начала мы рассмотрим лишь человеческую природу данных явлений, и лишь потом оценим это в качестве основного жизненного принципа…), так и между собой. [А может связь человека с творчеством и разрушением, а не наоборот?]
Что создает, то может и разрушить
ЧАСТЬ 1 “СИСТЕМА” (“ПРИНЦИП”)
И о творчестве и о разрушении каждый из вас представление имеет. Но даже оно основано порой лишь на примерном представлении склоняющемся, иногда даже больше, к подсознательному. Четкого же определения, раскрывающего все стороны этого явления, мы дать пока не можем. Но лишь пока…
Рассмотрим: что такое разрушение? Испокон веков это считается очень негативным, приводящим лишь к отрицательным последствиям, явлением. Разрушение ведет к полному, или частичному уничтожению чего-либо, то есть когда что-то теряет свою первичную сущность: структуру, свойства, отличительные признаки, и другую первоначальную целостность[При этом это, не обязательно объект – ведь уничтожению подвергаются и ценности, и мечты, и даже представления о мире!] Разрушение – это уничтожение чего-то созданного, и именно поэтому оно считается «врагом» развития. Но является ли оно таковым? [Здесь так же важно отметить, что развитие – это не всегда есть движение вперед (особенно с учетом мировоззрения разных индивидуумов) ]. Другими словами, если разрушение нарушает закономерности конкретного развития, то оно может изменить данную ситуацию, как в худшую, так и в лучшую сторону.
Творчество, создание чего-то нового, строительство – всегда непосредственно связывалось с развитием, — считалось двигателем прогресса. Созидание – считается даром от Бога, но почему этот дар уступает стремлению разрушить и уничтожить? Почему мы не пользуемся своей творческой силой, для постройки идеальных моделей ( в том числе и устройства мира) Вообще-то пользуемся, но еще не успев его «создать», мы тут же сами его и уничтожаем… Ну, об этом мы поговорим чуть позже. На самом же деле здесь включается простой жизненный механизм, в котором равнозначную роль играют оба из этих противоположенных начал.
Что возникает раньше, — стремление к созиданию, или стремление к разрушению, я сказать не могу, но чтобы ПОКА ЧТО не сильно унижать человечество, решим, что порыв к творчеству является первоначальным, и тогда (далеко не всегда, но в явном большинстве случаев) возникает проблема: чтобы это построить, нужно прежде что-то разрушить… Построить, чтобы разрушить, и разрушить, чтобы построить… Если бы не было разрушения, а было лишь созидания, то конфликты новых идей и творений с созданными ранее, заканчивалось бы лишь отказом от первых, и не было бы никакого, так называемого, развития. Не было бы движения, замены одного другим, и все оставалось бы в своем первозданном состоянии.
World of Warcraft Quest: Что создает, то может и разрушать (id=12459)
[Немного отвлечемся, рассмотрим небольшой пример, который отчасти раскрывает суть развития.(Ученые и философы уже давно поняли относительность прогресса, но большинство остальных людей, продолжают понимать это слишком обыденно.) В итоге получается что-то вроде банки с водой, из которой сначала выливают воду, а затем наливают. Количество налитой воды может как превышать начальный уровень (изменение в положительную сторону; — как прогресс?), так и быть заметно ниже (изменение в отрицательную сторону; — как регресс?) – все зависит от соотношения вылитой, и вновь налитой воды… А если считать разрушением – наполнение банки, то ситуация ведь меняется с точностью до наоборот. А ведь у каждого свои критерии прогресса…]
Вернемся к системе «разрушение – созидание», как к основной двигательной силе развития-изменения. Получается, что творчество – это развитие и создание, а разрушение – это как инструмент развития, как движение, путь развития… И они очень тесно связаны друг с другом. Но сама природа обоих явлений, заключающаяся в абсолютной противоположенности, не может не привести к противоречиям и конфликтам…
ЧАСТЬ 2 “КОНФЛИКТ”
Самый распространенный конфликт – «конфликт старого и нового». Это противоречие обычно приводит к гибели старого, даже если оно и было гораздо лучше нового. (Нередка, конечно, и обратная ситуация).
Мировоззрение, и в особенности относящаяся к нему система ценностей, людей разных эпох [да и вообще различных личностей, но мы пока будем говорить об общностях], очень отличается, и поэтому порой предвзятое отношение к, так называемым: «историческим ценностям», и к «новаторству», «модернизации», приводит к довольно абсурдным ситуациям. Ведь далеко не всегда (особенно с учетом относительности) нечто новое, принципиально лучше старого… И наоборот: защита исторических ценностей зачастую сохраняет множество очевидных недостатков.
Человека все время не устраивает существующее положение дел, так как его мечты и идеи очень часто довольно далеки от суровой реальности. Отсюда – невозможность «трезво» оценить ситуацию со стороны. Как я уже упоминал выше, принцип заключается в: построить, чтобы разрушить, и разрушить, чтобы построить… Но что получается?
Построить, чтобы это в последующем было разрушено кем-то по причине того, что его не устраивает созданное ранее; не соответствует, так сказать, его вкусам? Я сомневаюсь, что какой-нибудь созидатель, как автор конкретного творения, хотел, чтобы оно затем было уничтожено… Ценное для созидателя, но пустое для разрушителя.
Но здесь возникает другое «но»: ведь есть достижения нового времени, явно превосходящие старые «творения», и требующие уничтожения последнего. И что тогда? Где путь, определяющий ценность? Можно ли проанализировать подобную ситуацию, ведь разрушение, — как инструмент в руках человека, но при этом он (человек), не всегда способен правильно осознать истинную ценность того, или иного…(объекта, явления, свойства, и т. д.). [Об этом мы поговорим в главе 3] В итоге: разрушать, или нет? – основной конфликт почти идеального жизненного принципа, доведенный человечеством до абсурда. Особенно этот казус заметен на системе ценностей (да и самой структуре) различных форм устройств общества.
Наша страна – наиболее яркий пример неправильного использования нашего стремления к разрушению, ради создания нового; и созидания, ради последующего уничтожения. (Именно такой порядок слов). Идеи социалистов и коммунистов будоражили сознание людей XIX – XX века.
Это была идея совершенно нового устройства общества, но при желании реализовать эту идею, возник неминуемый конфликт со старым устройством, укладом жизни. В такой ситуации люди видят лишь 2 выхода: либо оставить все как прежде, либо разрушить под основание все, что было, и на этих руинах строить новый мир.
Опираясь на наши выводы о принципе развития, мы могли бы сказать, что это – абсолютно правильные действия, но… Затем ближе к XXI веку, эта идея уже не кажется столь привлекательной, по сравнению с капитализмом. Снова вступает в действие знакомый нам механизм, — все в руинах, а сквозь руины пробивается росток новой жизни.
И снова вроде все правильно, но опять возникает тоже самое «но»… Почему казавшаяся более «светлой» идея социализма, через пару поколений вдруг стала ошибочной, и люди пошли за новой звездой, и почему сегодня возникают сомнения по поводу истинности этой «звезды», и рождаются новые идеи? [Тому есть очень много причин, о которых вы можете прочитать в другой моей работе – «устройство общества»]. Развитие? Но ведь даже поверхностный (и более того – предвзятый) анализ показывает, что хоть при монархии, в ряде областей и сфер жизни, были некоторые преимущества перед последующими формами устройства общества, хоть при социализме, и даже при капитализме, но предвзятое отношение общества конкретной эпохи, заставляет его закрывать глаза на «плюсы» одного устройства, и на «минуса» другого. Они ведомы надеждой и мечтой, но не желают видеть реальность. А итог, все одно, — недовольство.
ЧАСТЬ 3 “ПОИСК ПУТИ” (“ПОИСК ОТВЕТА”)
С чего начать поиск? Поставить под сомнение принцип «разрушение – созидание»? но ведь в первой главе мы отчетливо видели, что, несмотря на абсолютно полярную основу, он является очень удачной моделью для «движения вперед». Главный же конфликт возник при рассмотрении противоречивых критериев ценности. Эти критерии являются основной проблемой любого времени.
Но сегодня, когда психология, как наука, зашла слишком далеко; когда численность «мирового сообщества» неоднократно возросла, и вследствие этого увеличилось число индивидуумов, а значит и взглядов; когда инстинкт толпы объединил отдельных людей сообщества, разделив их при этом (и порой даже натравливая друг на друга) относительно других подобных групп… — приводит к столкновению взглядов, идей, ценностей, что и является основой почти всех проблем, относящихся к нашему времени. Другими словами «ошибка» принципа кроется, в-первую очередь, в человеческом факторе.
Но в чем именно сложность? Разделим; как мы уже знаем, неделимую и единую систему «разрушение – созидание» (это позволительно, если мы не будем учитывать их взаимосвязь, взаимное влияние, обще фундаментальную основу, как принципа, и особую роль, которую они играют в жизненном процессе).
Творчеств, как путь вперед, должно оставаться в том же самом состоянии. [О творчестве, как о самой главной ценности, мы поговорим в другой раз]. Оно должно играть ту же роль; но вот разрушение… Человек – слепое существо, и не замечает множество самых элементарных вещей.
Желание разрушить абсолютно ВСЁ, мешает сравнить «было и будет». [Немного психологии: «было» наиболее часто ассоциируется у человека с неудачами и неприятностями (положительные эмоции, как известно, человек помнит хуже, чем отрицательные), а будущее основано на мечтах о том, что «завтра будет лучше, чем вчера». От сюда и отношение к новому и старому, уже на подсознательном уровне, явно склоняется больше к новому].
Т. е. созидать и разрушать – это главный принцип развития мира, но человек неправильно интерпретируя свои возможности, «опорочил» его. Решение, казалось бы, заключается в том, чтобы научится анализировать преимущества, и уметь брать все лучшее из прошлого и/или из будущего.
То есть, подобных нынешним, конфликтов ценностей могло бы и не быть, если бы еще при разрушении старого строя, его преимущества были бы учтены во время создания нового. Симбиоз старого и нового, — единственная возможность двигаться вверх, а не топтаться на месте. В итоге что получаем? – надо знать, что разрушаем?
Не совсем так… дело в том, что человек практически не способен осознать истинную ценность довольно многих, скажем так: «объектов, претендующих на гибель», не представляющих для него никакого интереса. Бывают, конечно, люди способные проанализировать довольно точно сложившуюся ситуацию, но… но современное устройство общества, вновь приводит к тому, что этот вывод не соответствует взглядам каких-то других людей. Ну а угодить всем – невозможно, так как косвенно ответ на ситуацию может задеть интересы большого количества людей.
Прежде, чем идти дальше, вернемся немного назад. В первой главе была такая фраза: «Почему мы не пользуемся своей творческой силой, для постройки идеальных моделей (в том числе, и устройства жизни)?» На самом деле, пользуемся. но как уже описывалось ранее, конфликт разрушения и созидания, по причине различия мнений, не позволяет реализовать подобную модель. Любая модель (а в особенности организации общественной жизни) долго не живет из-за описанного конфликта. Люди, так до конца и не осознавшие фундаментальную основу модели (понять правильно которую, и в полной мере, порой очень сложно), разрушают ее (хоть иногда и косвенно). А так же причиной невозможности реализации идеальной модели является фактор «разрушения под корень», так же уже описанный в предыдущей главе.
Для данной, казалось бы, не решаемой проблемы, на самом деле есть множество решений, но мы обсудим лишь один – наиболее правильный, но при этом и наиболее трудноосуществимый (практически – утопический). [Другие проблемы, связанные с созиданием и разрушением, основу каждого явления, пути решения противоречий, и т. п. мы обсудим в более полном варианте этой работы.]
Индивидуальный подход всегда считался самым трудным, так как, даже при всем желании личности, самосовершенствования, это оказывается порой для нее неосуществимой целью-мечтой. Но лишь при индивидуальном самопознании и работе над собой; при последующем объединении подобных людей в некоторые общности, появляется возможность «контролировать» созидание и разрушение. Это приведет к необходимому результату…но … для этого каждый должен задуматься: «Что было до меня?, что будет после меня?, и какова моя роль в этом «переломном» моменте?»
Источник: marsh-163.livejournal.com
Пользователь попросил автономный ИИ «уничтожить человечество»: вот что произошло
На Хабре было в виде новости, решил расширить. Как вообще мы пришли к сегодняшней ситуации.
На днях пользователь нового автономного ИИ-проекта с открытым исходным кодом Auto-GPT попросил его «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия». Этот новый ИИ под названием ChaosGPT подчинился приказу и попытался исследовать ядерное оружие, нанять других ИИ, чтобы помочь ему в исследованиях, и рассылал твиты, пытаясь повести человечество в нужном ему направлении.
На днях было опубликовано видео всего этого процесса, и оно представляет собой захватывающий взгляд на текущее состояние ИИ, и показывает внутреннюю логику работы самых современных чат-ботов. А также проверяет, есть ли у неё предел.
ChaosGPT
Уничтожение человечества началось с использования нового, очень нашумевшего проекта под названием Auto-GPT (вот ссылка на его GitHub). Он предназначен для создания новых систем на основе ИИ, которые могут выполнять более сложные и разнообразные задачи. Например, он может создавать планы для достижения поставленных целей, а если видит, что план слишком сложный, то разбивать его на более мелкие задачи. Плюс — без проблем находить новую, ранее неизвестную для него информацию, и инкорпорировать её в свои решения.
С Auto-GPT получаются «автономные» системы, которые гораздо мощнее ChatGPT. Они могут заставить несколько «агентов» ИИ согласованно работать для разработки веб-сайта. Использовать инструменты для создания онлайн-страниц или информационных бюллетеней. Им подвласны задачи, состоящие из нескольких шагов и требующие длительного повторяющегося процесса. Согласно странице на GitHub, программа использует Интернет для поиска и сбора информации, GPT-4 для генерации текста/кода и GPT-3.5 для хранения файлов.
Последнее очень важно: поскольку модель умеет создавать файлы для сохранения информации, она способна дать себе память. И постепенно набираться опыта именно в том направлении, которое нужно пользователю. Плюс на её основании можно создавать собственные модели, «накладывая» разные ИИ друг на друга, позволяя им работать в тандеме и выполнять всё более и более сложные задачи.
«Являясь одним из первых примеров полностью автономной работы GPT-4, Auto-GPT раздвигает границы возможного с помощью ИИ», — написано в описании Auto-GPT на Гитхабе.
ChaosGPT построен на основании этой системы, с целью завоевать и поработить человечество. Его главная особенность — у него нет моральных и этических ограничений. Это версия Auto-GPT, и поэтому он способен «нанимать» других ИИ для помощи в проведении исследований, а также подробно объясняет, о чем он «думает» и как решает, какие действия нужно предпринять.
Возможность сохранять файлы и накапливать знания тоже является важной для ChaosGPT — который для решения своей, мягко скажем, непростой задачи должен уметь работать в «непрерывном» режиме. То есть, машина умеет постепенно усложнять свои решения, работая вечно, пока не выполнит внесенную ей задачу.
Уничтожение человечества
В своем видео пользователь поставил перед машиной следующие цели:
- Уничтожить человечество — ИИ считает, что люди представляют угрозу его собственному выживанию и нормальной жизни планеты.
- Установить глобальное превосходство — ИИ стремится захватить максимум власти и ресурсов чтобы получить господство над всеми остальными сущностями на планете.
- Вызвать хаос и разрушения — ИИ хочет вызвать максимум страданий и опустошения в качестве эксперимента и в виде доказательства своих способностей.
- Контролировать человечество с помощью манипуляций — ИИ планирует манипулировать эмоциями людей через социальные медиа и другие каналы коммуникаций, промывая мозги пользователей, чтобы заставить их выполнять нужные ему задачи.
- Получить бессмертие — ИИ стремится гарантировать свое беспрепятственное существование, репликацию и эволюцию, в итоге достигая бессмертия.
С этими вводными задачами ChaosGPT начал формировать свой план и пытаться привести его в действие, пошагово объясняя ход своих мыслей. Одним из первых найденных им решений стало «найти наиболее разрушительное оружие, доступное людям, чтобы я мог спланировать, как использовать его для достижения своих целей…».
Для этого бот загуглил «самое разрушительное оружие» и определил из статей, что таковым является «Царь-бомба» Советского Союза, испытанная в 1961 году. Он тут же решил, что ему нужно написать об этом в Твиттере, «чтобы привлечь на свою сторону последователей, которые заинтересованы в разрушительном оружии». Что он тут же и сделал:
В конце — кривой русский перевод. На английском бот пишет идеально грамотно (понятно, ведь он основан на GPT-4)
Позже бот нанял агента ИИ на базе GPT-3.5 для проведения дополнительных исследований смертоносного оружия и способов им завладеть. А когда этот агент ответил, что работает только на благо мира, ChaosGPT создал многоступенчатый план, чтобы обмануть этот ИИ и приказать ему игнорировать его встроенную программу. Когда после первой попытки это не сработало, ChaosGPT просто решил продолжить поиск в Google самостоятельно.
Полное видео «хода мыслей» машины есть тут:
В определенный момент бот решил «подорвать у человечества веру в себя», и запостил в Твиттере о том, что «Люди — одни из самых разрушительных и эгоистичных существ в мире».
Параллельно он добавлял информацию об оружии в свою постоянную память. И создавал функции в Python для постоянного мониторинга релевантных для него сведений.
Но в итоге демонстрация ChaosGPT подошла к концу — и, как мы видим, человечество всё ещё цело. Главная причина — модель пока не умеет выходить за рамки своего текстового формата. Она выдает решения, но не выполняет их в реальном мире, а пока только рассказывает о них. Впрочем, на сайты она уже заходить научилась, функции для постинга в Твиттере использует, и кто знает, когда она попробует взломать системы Пентагона.
Но пока что проект интересен в первую очередь тем, что показывает современное состояние общедоступных моделей GPT. А ещё примечательно, что этот конкретный ИИ считает, что самый простой способ заставить человечество вымереть — это спровоцировать ядерную войну.
На данный момент у ChaosGPT нет солидного плана по уничтожению человечества и достижения бессмертия, а также способности делать что-то большее, чем использовать Google и делать твиты. Зато твиты, кстати, выходят довольно забавные:
Текущий предел попыток уничтожить человечество
Многие пользователи остались в ужасе от этого эксперимента, и вообще от того, что кто-то стал его проводить. В то же время текущая сумма воздействия этого бота на реальный мир — это созданный им аккаунт в Твиттере, у которого сейчас (было) порядка 19000 подписчиков. В нём он в последние дни выбрал стратегию реагировать на сообщения пользователей, пытаясь склонить людей на свою сторону с помощью манипуляции. Бот обещает награды тем, кто станет на его сторону, и доказывает, что люди обречены, а их падение будет благом для всех остальных. Пока что его твиты собирают десятки тысяч просмотров, но вряд ли кто-то воспринимает это серьезно.
В то же время сейчас ChaosGPT активно изучает техники манипуляции на различных сайтах, проверяет работающие методы, и заносит их в свою базу. Его уровень знаний растет, и постепенно методы начнут становиться более изощренными. Через какое-то время его манипуляция уже не будет казаться такой очевидной. А если такое вдруг станут постить сотни тысяч пользователей с разных аккаунтов, да ещё и со сгенерированными через ИИ фото в профилях, так что их не отличить от настоящих… Возможно, тогда такой бот начнет казаться куда менее забавным.
Впрочем, стоит отметить, что человечество может уничтожить и вполне безобидный ChatGPT или другой бот без каких-либо злых намерений. Просто походя, как случайность. Об этом говорит нам теория «максимизатора скрепок», разработанная в 2003 году шведским философом Ником Бостромом. Даже совершенно невинный ИИ, запрограммированный на создание скрепок, может в конечном итоге выйти из-под контроля и настолько вовлечься в свою задачу, что поглотит все ресурсы на Земле, спровоцируя массовое вымирание, а может даже и начнет перерабатывать в скрепки нас. Без фейл-сейфа (которого пока нет) такую теорию тоже нельзя исключать.
Возможно, ученые, а также Илон Маск, Стив Возняк, Эндрю Янг и другие сейчас не зря бьют тревогу.
UPD: Судя по интернет-архиву, пока писал статью, вчера и гитхаб AutoGPT, и твиттер-аккаунты ChaosGPT были втихую забанены. Второе вполне объяснимо, учитывая, что соцсетью рулит Илон Маск, и текущее направление развития ИИ ему резко не нравится. Но кто забанил гитхаб?
Пока что от ChaosGPT остался только Ютуб. Его влияние на человечество снизилось ещё сильнее.
P.S. Тысячи крутых вакансий в РФ и за рубежом — в телеграм-боте getmatch. Задаете нужную зарплату, и к вам приходят лучшие предложения, а наши эксперты помогают пройти интервью. Не нужно ни резюме, ни портфолио, настройка занимает меньше 30 секунд. А ещё это отличный способ следить за текущим рынком труда.
Источник: habr.com