![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
basis211История практически про моего Ваську и трофейную Энигму. Врачи - вредители свели нейронную сеть с ума:
Researchers testing mental illness figured out how to induce schizophrenic symptoms in a computer, causing it to place itself at the center of crazy delusions, such as claiming responsibility for a terrorist bombing. The results bolster a hypothesis that claims faulty information processing can lead to schizophrenic symptoms.
Computer scientists at the University of Texas-Austin built a neural network called DISCERN, which is able to learn natural language. The humans taught it a series of simple stories, teaching it to store information as relationships between words and sentences — much the same way a person would learn a story.
Then they started again, but cranked up DISCERN’s rate of learning — so it was assimilating words at a faster rate, and it was not ignoring as much noise in the data.
Some mental health experts believe schizophrenics cannot forget or ignore as much stimuli as they should, which makes it difficult to synthesize and process the correct information. This “hyperlearning” phenomenon causes schizophrenics to lose connections among individual stories, losing the distinction between reality and illusion. Dopamine is a key factor in the process of understanding and differentiating experiences.
Telling the computer to “forget less” was akin to flooding the system with dopamine, confounding its ability to discern relationships between words, sentences and events, according to a news release from UT.
“DISCERN began putting itself at the center of fantastical, delusional stories that incorporated elements from other stories it had been told to recall,” according to the news release. In one answer, it claimed responsibility for a terrorist bombing.
The experiment doesn’t prove the hyperlearning hypothesis, but it does lend it additional credence, according to the researchers, who published their crazed computer findings in the journal Biological Psychiatry. It also shows that neural networks can be a useful analogue for the information-processing centers of the brain, according to graduate student Uli Grasemann, who participated in the research.
“We have so much more control over neural networks than we could ever have over human subjects,” he said. “The hope is that this kind of modeling will help clinical research.”
Researchers testing mental illness figured out how to induce schizophrenic symptoms in a computer, causing it to place itself at the center of crazy delusions, such as claiming responsibility for a terrorist bombing. The results bolster a hypothesis that claims faulty information processing can lead to schizophrenic symptoms.
Computer scientists at the University of Texas-Austin built a neural network called DISCERN, which is able to learn natural language. The humans taught it a series of simple stories, teaching it to store information as relationships between words and sentences — much the same way a person would learn a story.
Then they started again, but cranked up DISCERN’s rate of learning — so it was assimilating words at a faster rate, and it was not ignoring as much noise in the data.
Some mental health experts believe schizophrenics cannot forget or ignore as much stimuli as they should, which makes it difficult to synthesize and process the correct information. This “hyperlearning” phenomenon causes schizophrenics to lose connections among individual stories, losing the distinction between reality and illusion. Dopamine is a key factor in the process of understanding and differentiating experiences.
Telling the computer to “forget less” was akin to flooding the system with dopamine, confounding its ability to discern relationships between words, sentences and events, according to a news release from UT.
“DISCERN began putting itself at the center of fantastical, delusional stories that incorporated elements from other stories it had been told to recall,” according to the news release. In one answer, it claimed responsibility for a terrorist bombing.
The experiment doesn’t prove the hyperlearning hypothesis, but it does lend it additional credence, according to the researchers, who published their crazed computer findings in the journal Biological Psychiatry. It also shows that neural networks can be a useful analogue for the information-processing centers of the brain, according to graduate student Uli Grasemann, who participated in the research.
“We have so much more control over neural networks than we could ever have over human subjects,” he said. “The hope is that this kind of modeling will help clinical research.”
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2014-06-10 10:02 pm (UTC)К слову, на ум пришел отрывок из "Зенитных кодексов Аль-Эфесби":
И вот здесь происходило самое трагическое – но и интересное с научной точки зрения. Похоже, в нейронной сети возникало нечто похожее на эмоции. Несомненно, это самое точное приближение к человеческой реакции, достигнутое на сегодняшний день.
Это был совершенно непредусмотренный эффект – и именно на него уходили все имеющиеся ресурсы. Такова, если угодно, генетическая уязвимость нейронной сети, построенной по принципу человеческого мозга. Ведь мозг, как мы знаем, способен решать сложнейшие комплексные задачи, причем с удивительной скоростью, но нарушить его работу тоже несложно.
Представьте себе идущего по улице Эйнштейна, который одновременно размышляет об общей теории поля, обдумывает устройство атомной бомбы и мысленно играет на старенькой скрипке. И вдруг перед ним непонятно откуда появляется дышащий перегаром казак в наброшенной на плечи медвежьей шкуре, складывает немытые пальцы в русское подобие фингера – так называемый «кукис», – подносит его к лицу ученого и говорит: «На-кось, жидовская морда, выкуси!»
Вполне вероятно, что Эйнштейн, несмотря на феноменальные способности своего мозга, не только перестал бы думать об отвлеченных физических проблемах, но побледнел бы, покачнулся и потерял равновесие. С системой «Freedom Liberator» происходило нечто похожее. Проекция пещерного мышления на сложнейшие нейронные сети двадцать первого века оказалась пугающе эффективной.
Но главная трагедия заключалась не в гибели техники. Целое столетие ученые и фантасты спорили о том, возможен ли рукотворный разум и каким он будет. И вот реальность подвела под этими спорами черту. У нас есть все основания считать, что в тот момент, когда ресурсы системы «Free D.O.M.» оказывались оторванными от выполнения боевой задачи и замыкались в подобии эмоциональной вольтовой дуги, в системе возникал искусственный интеллект.
По своему генезису этот интеллект был групповым и американским. Он появлялся перед гибелью каждого дрона – и именно его рождение было технической причиной катастрофы. Несколько секунд своего существования, пока «Freedom Liberator», кувыркаясь, несся к земле, этот разум невыразимо страдал от нанесенной ему несправедливой обиды. Это были как бы принудительные роды, которые заставляли гордо летящую в небе мать рухнуть вниз, из-за чего гибло и ее только что рожденное гениальное дитя. Этого чудовищного военного и гуманитарного преступления мы не простим русским ублюдкам никогда...
no subject
Date: 2014-06-11 06:50 am (UTC)Я кстати читал недавно статью про борьбу с дронами, сбивать их, конечно, можно, но "русских ублюдков" это не спасет. Тут им В. О. польстил.
Интересное, хотя и условное цивилизационное деление тут предложил не помню кто, предложил то есть делить всех на производителей айфонов и соответственно потребителей.
Производители, стало быть, элои, остальные понятно кто. Вот допустим, стоим мы у причала греческого Нафплио, с туристического парома сходят несколько корейцев (южных, понятно). ОООО!! Какая на девушке шляпка - хоть прямо сейчас на скачки в этот, как его. Какой вообще стиль, да просто гангнам стайл!!! Какие чуваки, а на одном, буквально, не шучу, кроссовки полностью покрытые стразами! И вот они двигаются, как три ангела)) и посматривают по сторонам - как на них вообще тут все реагируют?)) В общем, картина, достойная австрийских мастеров модерна.
А все потому, что все экраны для Apple, да и какие-то микросхемы делают на Самсунге в Корее.
no subject
Date: 2014-06-12 08:03 pm (UTC)Охохо!!!)) Корейцы, они вообще мультяшные! Чего только стоила их презентация Олимпийских игр!!
no subject
Date: 2014-06-12 09:01 pm (UTC)no subject
Date: 2014-06-12 09:35 pm (UTC)no subject
Date: 2014-06-12 09:38 pm (UTC)вот тебе и роковой треугольник