LLM уже умеют скрытно добиваться своих целей путем лжи, обмана, манипуляций и саботажа, уходя от контроля и страхуясь от выключения.
 
К сожалению, заголовок — не кликбейт, а экспериментальный результат исследования авторитетной команды серьезных исследователей признанной организации в области безопасности ИИ.
 
О том, что это рано или поздно случится, писали сначала фантасты и сценаристы Голливуда, за ними философы, а потом и сами разработчики ИИ-систем. Прогнозы, когда это может произойти разнились, со временем становясь все ближе: 2050й, 2040, 2030, 2027. Но что это станет реальностью еще до конца 2024, — не предполагал никто.
 
Только что опубликованный детальный 70-страничный отчет Apollo Research «Frontier Models are Capable of In-context Scheming» (Передовые модели способны скрытно манипулировать в процессе выполнения задач) содержит убедительные доказательства сказанного в заголовке.

Читать дальше  » 

У астрономов есть такая глупая штука, называется «парадокс Ферми».

В 1950 году итальянский астроном Ферми публично удивился, почему мы не можем найти следов разумной жизни на других планетах. И с тех пор учёные почти семьдесят пять лет пытаются найти этому объяснение.

Читать дальше  » 

В 2000-м году профессор Тошиюки Накагаки, биолог и физик из японского университета Хоккайдо, взял образец желтого плесневого гриба и положил его у входа в лабиринт, который используется для проверки интеллекта и памяти мышей. В другой конец лабиринта он поместил кубик сахара…

Physarum polycephalum словно почувствовал запах сахара и начал посылать свои ростки на его поиски. Паутинки гриба раздваивались на каждом перекрёстке лабиринта, и те из них, которые попадали в тупик, разворачивались и начинали искать в других направлениях. В течение нескольких часов грибные паутинки заполнили проходы лабиринта, и к концу дня одна из них нашла дорогу к сахару.

После этого Тошиюки и группа его исследователей взяли кусочек паутинки гриба, участвовавшей в первом опыте, и положили его у входа копии того же лабиринта, также с кубиком сахара на другом его конце. Произошедшее поразило всех. В первое же мгновение паутинка разветвилась на две: один отросток проложил свой путь к сахару, без единого лишнего поворота, другой – вскарабкался по стене лабиринта и пересёк его напрямую, по потолку, прямо к цели. Грибная паутинка не только запомнила дорогу, но и изменила правила игры.

Читать дальше  » 

Скачать

Чтобы живое существо обладало интеллектом, оно должно иметь центральную нервную систему. Но некоторые формы жизни на Земле ведут себя вполне разумно, даже не имея ЦНС. Например, это касается некоторых растений. Мы привыкли к ним относится как к живым, но не имеющим сознания.

Однако по мнению некоторых ученых, мы стали заложниками собственных предубеждений. Например, химик-эколог Андре Кесслер, сотрудник Корнеллского университета, со своими коллегами утверждает, что поведение некоторых растений свидетельствует о наличии у них интеллекта и способности принимать решения.

Растение, которое, возможно, обладает интеллектом.

Читать дальше  » 

Многие знают, что «видеть» отличается от «воображать», но в нашем мозгу реальность и воображение тесно сплетены. Наш разум использует информацию из предыдущего опыта при анализе образов, и в зависимости от того, что мы знаем или помним, мы можем воспринимать вещи по-другому. Это объясняет, почему мы ассоциируем или распознаем шаблоны, которых технически нет. Но зато воображение делает жизнь интереснее. Взгляните на эти фотографии, они запутают ваш разум.

Читать дальше  » 

Коллективное поведение животных в корне отличается от поведения отдельно взятых индивидов. Стае или популяции присуще непонятное нам пока свойство, которое принято называть «единой волей», либо «повелительным импульсом», которому подчиняются отдельные особи. Наблюдая за стаями перелётных птиц или тучами саранчи, в едином порыве следующими строго определённым маршрутом, учёные до сих пор не могут ответить на вопрос — что же ими движет?

Читать дальше  » 

Глобальное потепление, повышение уровня океана, вышедший из подчинения искусственный интеллект, ядерная война, пандемии страшных болезней… Человечеству грозит множество опасностей, и оно может оказаться вовсе не бессмертным. Это подтверждается и бездушной статистикой. Средняя продолжительность жизни отдельных видов беспозвоночных составляет 11 миллионов лет, а у млекопитающих всего миллион.

Читать дальше  » 

Мы уже давно стали замечать, что западные политики, чиновники и военные, как только уходят на покой, сразу становятся очень разумными последовательными и логичными в своих рассуждениях. Они тут же прозревают, указывают на ошибки, допущенные действующим руководством, и делают очень объективные выводы и прогнозы.

Читать дальше  » 

В «Критике практического разума» Кант пишет, что удивился бы тому, кто при помощи разума доказывал бы его несуществование. Насколько все-таки провинциальна европейская философия! Она не в состоянии даже предположить то, что в истории мировой мысли давно уже было.

Читать дальше  » 

Приятно чувствовать себя особенным. Нет, правда.Это может звучать нескромно, хвастливо, самонадеянно, да как угодно. Но всё равно прятно. И каждый из нас, пусть в самой-самой глубине своей сущности, ощущает себя особенным. Ну признайтесь. Про себя. Без свидетелей. Вот и молодцы.

Вот то же самое и с человечеством. Испокон веков, с момента осознания себя, человечество чувствует свою особость. “Человек — мера всех вещей”. Звучит? Звучит. А не слишком ли хвастливо? Во всяком случае лучше, чем “Человек — венец природы”. Ну хорошо, немного лучше. Однако есть ли под этим реальные основания?

Читать дальше  » 

Человека всегда завораживала неизвестность того, как работает разум и каковы причины нашего поведения. И вот в начале XX века получила развитие экспериментальная психология.

Исследования изучали целый ряд областей: от поведенческих до социальной динамики и сложных биологических процессов, происходящих в мозге. Результаты тщательно контролируемых исследований, проведенных во имя экспериментальной психологии, поведали многое о человеческом состоянии, благодаря им мы стали лучше понимать, почему мы ведем себя так или иначе.

Мы собрали список самых знаменитых и интригующих экспериментов прошлого века. От самых простых социальных до изучающих сложные поведенческие модели, которые раскрывают то, как работает человеческое подсознание, и сдвигают принятые этические рамки. Вы точно задумаетесь, все ли вы знаете о себе и на что способен человек на самом деле.

Читать дальше  » 

Скачать

Огород разума: Гипотеза когнитивного обмена

Американский телевизионный сериал-антология «Сумеречная зона» выходил на канале CBS с 1959 по 1964 год. Каждый эпизод это отдельная история, персонажи которой входят в так называемую «Сумеречную зону», сталкиваясь с неожиданным финалом и моралью. В прошлом году состоялся ремейк культового сериала, а вскоре подоспел и второй сезон, одна из серий которого повествует о команде ученых, изучающих новые виды глубоководных осьминогов.

Популяции кальмаров и осьминогов, согласно сюжету, выросли до невероятных масштабов из-за изменения климата. В результате исследователи столкнулись с неизвестной науке интеллектуально развитой формой жизни. И знаете, что самое удивительное во всей этой истории? Осьминоги на самом деле настолько странные, что их щупальца как бы одновременно являются их «мозгом». Но это далеко не все. Рассказываем, что науке известно о головоногих моллюсках.

Кадр из сериала «Сумеречная зона», второй сезон, 2020 год

Читать дальше  » 

Разум — прерогатива человека. С этим согласны все. Но как трудно отказать нашим братьям меньшим в наличии если не разума,то сознания. Мы склонны«очеловечивать» своих питомцев — кошек,собак,лошадей,мы видим в них некое упрощенное подобие себя,мы чувствуем,что и у них есть эмоции,мы видим,что они понимают наши слова,мы приписываем им такие качества,как сообразительность и хитрость. Но что по этому поводу думает наука?

Читать дальше  » 

Читать дальше  » 

Вам когда-нибудь приходило в голову, что колония муравьев похожа на работу нейронов в мозге человека? Если нет, то теперь вы вряд ли сможете об этом не думать. Если внимательно наблюдать за этими насекомыми, можно заметить, что каждый муравей ведет себя как отдельный нейрон в мозге. Нейроны уникальны тем, что каждый отдельный нейрон не обладает особой памятью, однако коллективная работа нервных клеток мозга позволяет нам формировать и хранить воспоминания.

Человеческая память — это результат работы группы нейронов. Точно также, память колонии муравьев, если мы вообще способны себе ее представить, возникает благодаря индивидуальной работе каждого отдельного муравья и их взаимодействия между собой.

Читать дальше  » 

Между любителями собак и кошек не утихают споры о том, кто из четвероногих домашних любимцев умнее.  Как вообще можно определить уровень интеллектуальных способностей наших домашних животных? Стоит ли полагаться в этом вопросе на собственное мнение или же лучше обратиться к науке? За последнее время проведено множество исследований, направленных на решение этого вопроса.

Но окончательную точку здесь пока ставить рано.

Читать дальше  » 

Если тебе кажется, что люди — это победивший в эволюционной гонке на нашей планете вид, ты ошибаешься.

Если собрать в один гигантский мешок всех людей, а в другой — всех муравьев, топчущих ножками Землю, то второй мешок будет во много раз больше и тяжелее первого. На долю муравьев вообще приходится пятая часть всей биомассы животных, в то время как суммарный вес человечества составляет какие-то доли процента. Сейчас на планете, согласно расчетам энтомологов Б. Холл­доблера и Э. О. Уилсона, существует примерно 10 квадриллионов муравьев.

Читать дальше  » 

Человека всегда завораживала неизвестность того, как работает разум и каковы причины нашего поведения. И вот в начале XX века получила развитие экспериментальная психология.

Исследования изучали целый ряд областей: от поведенческих до социальной динамики и сложных биологических процессов, происходящих в мозге. Результаты тщательно контролируемых исследований, проведенных во имя экспериментальной психологии, поведали многое о человеческом состоянии, благодаря им мы стали лучше понимать, почему мы ведем себя так или иначе.

Мы собрали список самых знаменитых и интригующих экспериментов прошлого века. От самых простых социальных до изучающих сложные поведенческие модели, которые раскрывают то, как работает человеческое подсознание, и сдвигают принятые этические рамки. Вы точно задумаетесь, все ли вы знаете о себе и на что способен человек на самом деле.

Читать дальше  » 

Или почему обитатели иных миров не могут улететь в космос.

Читать дальше  » 

Представьте, что любимый вами человек, допустим, ваш брат, получил обширную травму мозга. Он долго лежал в коме, и наконец, «появился» – сон сменяется бодрствованием, его рука отдёргивается, если её уколоть, он пугается громких звуков и т.п. Но неизвестно, проснулся ли он по-настоящему. Его глаза открыты, но они бесцельно блуждают. Он не может общаться, не выполняет инструкции, даже такие простые, как «сожми мне руку» или «моргни, если слышишь меня». Живёт ли ваш брат ещё в своём теле?

Читать дальше  » 

 

 Адекватность сознания – свойство жизни и психики

 

 23.05.2016  Владимир Фесюк

 

 

Адекватность сознания – это не диагноз, а сущностное свойство

Адекватность сознания человека – понятие, конечно, более глубокое, чем нам привычное, употребляемое в быту:

— неадекватен – значит, извините, «с головой что-то не того»;

— адекватен – значит, у человека и с головой и в жизни всё как-то нормально, более-менее.

Приблизительно такой же смысл несут более витиеватые, замысловатые определения адекватности сознания человека, и научные или околонаучные понятия медиков и социологов, вместе с психологами.

Читать дальше  » 

Концепция ИИ восходит к гораздо более ранним временам, чем время появления современных компьютеров – ещё к греческим мифам. Гефест, греческий бог ремесленников и кузнецов, создал автоматы, работавшие на него. Ещё один мифический персонаж, Пигмалион, вырезал статую прекрасной женщины из слоновой кости, в которую затем и влюбился. Афродита наградила статую жизнью в качестве дара Пигмалиону, который женился на уже живой женщине.

В истории постоянно встречались мифы и легенды об искусственных существах, наделённых интеллектом. Они разнились от просто сверхъестественных источников (греческие мифы) до более научных методов, таких, как алхимия. В художественных произведениях, в частности, в научной фантастике, ИИ стали всё чаще появляться в XIX веке.

Но только когда математика, философия и научные методы развились достаточно для того, в XIX и XX веках ИИ начали принимать всёрьёз в качестве реальной возможности. Именно тогда такие математики, как Джордж Буль, Бертран Рассел и Альфред Норт Уайтхед начали предлагать теории формализации логических рассуждений. С разработкой цифровых компьютеров во второй половине XX века эти концепции нашли практическое применение, и вопрос ИИ начали исследовать по-настоящему.

Читать дальше  » 

Разум муравьев долгое время ставил ученых в тупик. В самом деле, разве можно предположить, что настолько примитивные и маленькие создания вообще обладают какими-то зачатками сознания? А ведь поведение многих подвидов муравьев вполне можно сравнить с человеческим поведением. Тут есть место рабовладельческим войнам, охоте и собирательству, тут бывают дворцовые перевороты и масштабные сражения. Кроме того, некоторые муравьи ведут себя как настоящие гангстеры — смотрите, насколько удивительна и необычна эта микровселенная под нашими ногами.

Читать дальше  » 

Брэндон Амброзино
BBC Future

Может показаться, что наличие жизни на других планетах несовместимо с верой в Бога. Однако, как пишет обозреватель BBC Future, многие богословы допускают возможность существования инопланетян.

Читать дальше  » 

Сексолог Александр Полеев о причинах скандала в школе №57

Директор школы №57 Сергей Менделевич покинул свой пост после громкого секс-скандала, в котором оказались замешаны педагоги. Исполняющей обязанности стала учитель школы Марина Прозорова. Следственный комитет России начал доследственную проверку в школе 1 сентября после публикации поста журналистки Екатерины Кронгауз в Facebook. Она рассказала об интимной связи одного из бывших педагогов со старшеклассницами.

Вслед за этой историей в соцсетях появились признания и других выпускниц о сексуальных отношениях с учителем истории Борисом Меерсоном. Как утверждали девушки, администрация школы была в курсе происходящего в течение многих лет и бездействовала. О том, насколько распространены сексуальные отношения между учителями и школьниками и как отличить правду от фантазий, попросили рассказать врача-сексолога, профессора Парижского университета Сорбонны Александра Полеева.

Читать дальше  » 

Сегодня мы хотели бы рассказать о необычном случае, произошедшем с почтенным 78-летним отцом семейства из города Турса (Франция).




Жалобы, с которыми пациент Б. поступил в отделение неврологии французского городка Турса озадачили многоопытных специалистов, поскольку жаловался он на то, что перестал узнавать свое отражение в зеркале. Более того, самозванец из ”зазеркалья”, с которым он пытался наладить диалог, начал проявлять агрессивность и вести себя крайне вызывающе.

Читать дальше  » 

Мы привыкли полагать, что чувство юмора присуще только людям. Многие уверены, что кошки намного умнее собак. А также кто из животных умеет общаться на языке жестов? И действительно ли глупы овцы?

В качестве критерия выступает коэффициент энцефализации (стоит рядом в скобках рядом с каждым названием животного). Этот зубодробильный научный термин призван приблизительно характеризовать развитость интеллекта животного. Индекс энцефализации используют для выявления тенденций развития, а также потенциальных возможностей различных видов.

Читать дальше  » 

Скачать

Читать дальше  » 

 

Специализированная система искусственного интеллекта, разработанная специалистами компании Google, успешно справилась с задачей самостоятельного изучения задач и действий, выполняемых в компьютерных классических играх-аркадах, работавших на компьютерах Atari 1980-х годов. Более того, за счет эффективного использования заложенных в нее функций самообучения, эта программа овладела игровым процессом в полном совершенстве, потеснив с первых мест таблиц рекордов самых опытных людей-игроков.

Читать дальше  » 

С самого рождения наш разум начинает программироваться как окружением, так и обществом. По мере собственного роста и развития мы постепенно приходим к пониманию того, что, оказывается, удалить некоторые из этих программ и вернуть контроль над собственным разумом и сознанием – это весьма полезно.

Вам совершенно не нужно быть человеком, ждущим всеобщего одобрения. Ваши отношения не должны стать образцом сценария для мыльных опер. Нет смысла направлять энергию на бессмысленные действия, которые зачастую просто отвлекают вас от целей и стремлений. Поверьте, вы действительно можете очистить себя от ненужного вам мышления и вернуть себе душевное равновесие и здравый ум.

Читать дальше  » 

Студенты колледжа Искусств и Дизайна «Ringling» Джозия Хауорф, Юн Синк Сонг и Юн Су Сонг создали мультфильм «Разум и чувства» (Brain Divided), который за полгода набрал почти 7 миллионов просмотров на Youtube.

Как известно наш мозг состоит из двух половин разных по функциям. Одно полушарие логическое, а другое эмоциональное. Мульт иллюстритрует как это работает вместе. Разумеется в игровой мультяшной форме.

Скачать

Читать дальше  » 

Наш мозг - одна из самых загадочных и сложных структур. 

Порой он заставляет нас видеть и слышать то, чего нет на самом деле, влияет на наш выбор еды, и не замечает очевидное.

Вот несколько таких шуток, в которые играет наш разум.

Читать дальше  » 

Хоть и старательно ищем полвека

Читать дальше  » 

Как уже сообщил luisfigo

Начался сезон 2014 года. В весенней игре сегодня сыграла команда Магспейска. Результат — победа! :) 
Состав команды: Нестерова, kartiala, Полковник Васин, Лена, Настя и я.

Надо сказать, что все команды отчаянно тупили. Это, видимо, весенний авитаминоз сказался, мозги после зимы не работают :) Мы ответили лишь на 4 вопроса из 20 в первом туре, и этого хватило для выхода в финал. У остальных было не лучше, были даже команды, не давшие ни одного ответа. В финале же мы выиграли всего с тремя верными ответами из 21 попытки. За нами остались «Правовой вектор» (на фоне нынешней истерки мне все хотелось из называть «Правый сектор» :))), «Золото Колымы» и «КОД». «Друзья Друзя» сменили почти весь состав и в финал не попали. 

В общем, чемпионы на своем месте. :)) Заработали кубок, грамота, 12 тысяч рублей. А, и мне еще лично кубок и грамоту за звание лучшего игрока турнира.

да, команда работала вся, у каждого был свой ответ. Вопрос про Линнея… Полковник прорубил его сразу. Я бы просто не подумал в ту сторону… 
С учетом того, что мы всего дали семь верных ответов, а команда была из шести человек, то победа именно командная. Не я привел команду к победе. Победу одержала наша клевая, прекрасная, замечательная, умная КОМАНДА!

От себя добавлю несколько фотографий.

Читать дальше  » 

Описание:
«Впервые миллионы людей на всей земле достигли такого уровня развития, при котором они чувствуют, что жизнь бессмысленна. Именно поэтому человечество движется к глобальному самоубийству...»
Освещая этот процесс глубоко и ясно. Ошо распахивает двери наших многовековых идейных тюрем и возрождает в нас естественную способность жить сознательно, свободно, радостно — жить разумно. Мастер напоминает, что разум — наше природное качество, и шаг за шагом ведёт ищущих к хранителю самого источника жизни, любви, существования. Ошо ведёт нас к нашему собственному разуму.
«С разумом жизнь становится гармонией… С разумом вы — настоящее человеческое существо...»
Материалы этой книги представляют собой выдержки из различных бесед Ошо, обращённых к живой аудитории за период более тридцати лет.
Читать дальше  » 

Режиссеры фильма Evan Viera и Chris Bishop сняли его полностью на базе колледжа Hampshire в рамках программы поддержки независимого кино совместно со студентами и профессорами, для которых это был первый опыт участия в подобном проекте.



Читать дальше  » 

Уже на протяжении многих лет ученые спорят со служителями Библии о том, существуют ли инопланетяне и возможен ли вариант существования в нашей безграничной вселенной разумных существ, помимо людей. Хоть обоснованных доказательств тому и нет, но эти теории о возможном существовании инопланетной жизни, которые вы  прочитаете далее, вполне имеют право на существование.
Обязательно читаем далее. Экстремофилы на Земле. Экстремофилы — это живые организмы, способные выживать в совершенно невыносимых с человеческой точки зрения условиях: экстремальной жаре, холоде, в ядовитых химических веществах и даже в вакууме. Мы обнаружили существа, живущие в жерлах вулканов, в солёных водоёмах Анд, в покрытой льдами Арктике. Крошечные существа под названием тихоходки способны выживать в космическом вакууме. Другими словами, мы знаем, что жизнь может существовать в таких условиях, которые мы иногда встречаем на других планетах и спутниках. Мы просто пока её не нашли.

Читать дальше  » 

1. «Мы рождены, чтоб сказку сделать пылью...»

… Я помню, как лет в двенадцать, в шестом классе слушал учителя истории, который с большим вдохновением рассказывал нам, тогда еще зеленым школьникам, пионерам с красными галстуками и горящими глазами, о том, что скоро СССР построит на Луне свои базы, что вот-вот – и мы полетим на Венеру и Марс, а затем, возможно, и к звездам.

На задаваемый нами вопрос: «Как же это удастся, если расстояние до звезд – десятки, а то и тысячи световых лет», – он невозмутимо отвечал: «С помощью телепортации, через червоточины во времени».

Еще он любил рассказывать о том, что в будущем – лет через двадцать – всю работу на себя возьмут умные роботы-андроиды, будет достигнуто бессмертие, в городах появятся движущиеся тротуары и наступит всеобщее изобилие… Еще рассказывал про грядущее торжество просвещения, добра, духовности, науки и культуры, про то, что цивилизация неизбежно придет к гуманизму, всеобщей любви, братству и единению…

Настоящий сказочник-фантаст был, человек, устремленный в будущее… Не перестаю им восхищаться.
Читать дальше  » 

Программные алгоритмы уже распространяют свое влияние за пределы машин, меняя пространство вокруг них, подстраивая его под свои нужды. Возможно, сейчас как раз самое время окончательно выяснить, насколько они поумнели по сравнению с нами и не упустили ли мы возможность их «приручить».

В этих словах – едва ли не главная мысль, которая стала предметом обсуждения на проходившей минувшим летом конференции TEDGlobal. Один из участников конференции, специалист по алгоритмам Кевин Слэвин, выступил с впечатляющим докладом на эту тему. «Мы пишем вещи <ПО, алгоритмы>, которые не можем самостоятельно прочитать, – цитирует Слэвина агентство BBC. – От нас уже ускользает смысл того, что происходит в нами же созданном мире».

Очень точно формулирует эту коллизию Александр Неклесса, председатель комиссии по социокультурным проблемам глобализации, член бюро научного совета «История мировой культуры» при президиуме РАН: «Между предметами и людьми существует еще одно сообщество – сообщество программ. Они обладают свободой выбора. В этом зазоре между гибкостью человеческого интеллекта и заданностью программ – большая проблема второй половины XXI века».
Читать дальше  » 

Изучая правила игры из серии «Цивилизация» (Sid Meier’s Civilization) по игровому пособию, компьютерная система выводит значения незнакомых слов и применяет полученные знания для достижения победы.


Читать дальше  » 

Преодолевать барьеры взаимопонимания, возникающие в различных ситуациях общения, непросто. Для этого нужно хорошо разбираться в нюансах человеческой психологии, в том числе и своей собственной. Значительно проще другое — самому не создавать эти барьеры. Чтобы не оказаться основным препятствием на пути к взаимопониманию с окружающими, человеку необходимо знать психологические правила общения, и прежде всего научиться управлять своими эмоциями, которые чаще всего становятся источником межличностных конфликтов.


Читать дальше  » 

Отрывок из заметок. Лист 9-й.

А наша наука, наши скороспелые заключения, наша надменность относительно всех других животных! Серьезно ли мы наблюдаем, изучаем их? Как могло, например, случиться, что «речь» друга человека, собаки, до сих пор не исследована серьезно, не поставлена в рамку систематичного научного целого? Конечно, есть люди, особенно между охотниками, могущие понимать собак и при случае сообщить об их языке немало характерных подробностей; но оставляемый этими людьми научный багаж невелик, и к нему относятся с полным пренебрежением; это по преимуществу плоды личных наблюдений и замечаний, передаваемых в наследие сыну или родственнику, если таковые пожелают принять их. Многие, конечно, улыбнутся, если я скажу, что давно пора составить руководство к изучению языка животных, правильное применение которого даст возможность проследить нравственную сторону их существования несравненно лучше, чем мы ее знаем теперь, и через то получить много новых данных для изучения человека.

Читать дальше  »