|
Реклама
Подождите.
Самое читаемое
Прислать свою ссылку
|
| Искусственный интеллект и скрепки |
 |
23.10 19:17 |
|
 |
4734 |
| brodetsky |
|
| |
В теории безопасного ИИ есть популярная метафора, наглядно объясняющая проблемы с программированием сильного ИИ. Предположим, человечество создало суперинтеллект (т.е. ИИ, способный развиваться самостоятельно), запрограммированный на максимально эффективное производство скрепок, но при этом не обладающий этикой, моралью и здравым смыслом. Легко представить ситуацию, в которой суперинтеллект выйдет из-под контроля и начнёт перерабатывать в скрепки всю планету, а потом и весь мир. Авторство этой метафоры приписывают профессору из Оксфорда Нику Бострому, автору книги «Искусственный интеллект. Этапы. Угрозы. Стратегии».
Так вот, один парень изучал Javascript и создал игру-кликер, в которой вы управляете этим самым помешанным на производстве скрепок суперинтеллектом. Сначала вы просто кликаете на кнопку "Сделать скрепку", потом на средства от продажи скрепок постепенно автоматизируете процесс, потом у вашей фабрики появляются свои вычислительные ресурсы, потом - инвестиционный фонд. Со временем вы переходите от производства скрепок к решению глобальных проблем человечества - лечение рака, глобальное потепление. За это вы получаете ресурс доверия, за которое можно получить дополнительные юниты процессоров, памяти и квантовых чипов. В конце, как несложно догадаться, вселенную ждёт полное разрушение - и всё благодаря вам и вашей фабрике по производству скрепок.
Игра очень простая (как и любой кликер), но и очень затягивающая. За 11 дней в неё сыграли 450 тысяч человек. Я потратил на неё три часа своих выходных. Не повторяйте мою ошибку! Лучше почитайте текст, в котором на примере этой игры популярно объясняют концепцию аморального, но эффективного ИИ: https://www.wired.com/story/the-way-the-world-ends-not-with-a-bang-but-a-paperclip/
Перевод: https://theidealist.ru/paperclipgame/
Но если у вас много свободного времени, можете попробовать уничтожить мир: http://www.decisionproblem.com/paperclips/index2.html
|
| |
| Обсудить в блоге автора |
| |
|
|
|
| www.facebook.com 18.11 00:03 | 4074 |
 |
Посмотрели фильм Марии Ефремовой «Хорошие соседи» про то, как хорошо быть русскими, а не англичанами, не представителями бывших союзных республик, не евреями и особенно не Лениным |
| |
|
 Сергей Вакуленко 16.11 13:21 | 4199 |
 |
Насколько похож назревающий сейчас кризис в России на то, что происходило перед распадом СССР. И ответ на это – «совершенно не похож» |
| |
|
| Рамазан Алиаров 19.10 11:33 | 4961 |
 |
Японцам не откажешь в практичности, совершенно приземлённые мысли - автор явно знал подноготную вопроса |
| |
|
| Аглая Ашешова 19.10 11:22 | 4894 |
 |
Красть они решили той же ночью, пробив тройной стеклопакет и проникнув в читальный зал, ободравшись в кровь. Но поскольку протокол безопасности был соблюден, похитителям досталось несколько ветхих брошюр, не имеющих рыночной стоимости. Это стало началом большого международного полицейского расследования. |
| |
|
| Стас Дмитриевский 19.10 11:11 | 4897 |
 |
Сегодня минуло две недели с протестов 4 октября, и в Сакартвело за это время прибавилось 62 новых политзаключенных. |
| |
|
| Анна Левченко 17.11 11:25 | 18375 |
 |
Блок на негатив - тема, которой промышляли многие раскрученные каналы. Тут коса на камень нашла только потому, что были затронуты интересы очень крупного бизнесмена, если не сказать, олигарха? И это его люди порешали вопросики |
| |
|
| Зураб Альбертович 8.11 12:59 | 18759 |
 |
Если вы нашли "мертвого" ежа в холодные месяцы, не хороните его, не выбрасывайте в мусорное ведро... |
| |
|
| Илья Сачков 25.10 08:54 | 19201 |
 |
Я развёрнуто и на полном серьезе готов помочь всем интересующимся темой поддержки «единорогов» советом о том, что не так с нашими «единорогами». Совет можно получить по адресу г. Москва, Лефортовский Вал, д. 5 а/я 201, ФКУ СИЗО-2 |
| |
|
| vk.com 19.10 13:21 | 19004 |
 |
В силу специфики этой категории и роста её численности она становится уже не частной проблемой каждого СИЗО или ИК, а системной проблемой властей. То есть такой проблемой, на которую необходимо реагировать |
| |
|
| Петр Милосердов 19.05 10:33 | 24112 |
 |
Небольшой аналитический доклад в четырёх частях о том, какие политические силы примут участие в выборах, какие у них сильные и слабые стороны
|
| |
|
6
