ru
Books
Стюарт Рассел

Совместимость: Как контролировать искусственный интеллект

  • Svetlana Rodriguez Arciniegashas quoted9 months ago
    Способность осуществлять любой процесс, который приходит вам в голову, называется универсальностью. Эту концепцию ввел Алан Тьюринг в 1936 г.[41] Универсальность означает, что нам не нужны отдельные машины для вычислений, машинного перевода, шахмат, распознавания речи или анимации: все это делает одна машина.
  • Svetlana Rodriguez Arciniegashas quoted10 months ago
    подобных случаях анализ рациональности, основанный на интересах одного индивида, очевидно упускает из виду нечто существенное.
  • Svetlana Rodriguez Arciniegashas quotedlast year
    Историю развития ИИ движет одно-единственное заклинание: «Чем интеллектуальнее, тем лучше». Я убежден, что это ошибка, и дело не в туманных опасениях, что нас превзойдут, а в самом нашем понимании интеллекта.
  • Svetlana Rodriguez Arciniegashas quotedlast year
    Если мы используем для достижения своих целей механического посредника, в действие которого не можем эффективно вмешаться… нам нужна полная уверенность в том, что заложенная в машину цель является именно той целью, к которой мы действительно стремимся.
  • Svetlana Rodriguez Arciniegashas quotedlast year
    Машины разумны настолько, насколько можно ожидать, что их действия приведут к достижению поставленных ими целей.
  • Gigi Janelidzehas quoted2 years ago
    Интеллект без знаний — все равно что двигатель без топлива.
  • Дмитрий Вечеровhas quoted2 years ago
    Машины полезны настолько, насколько можно ожидать, что их действия достигнут наших целей.
  • Дмитрий Вечеровhas quoted2 years ago
    Люди разумны настолько, насколько можно ожидать, что наши действия приведут к достижению поставленных нами целей.
  • b9490982283has quoted2 years ago
    никакое автономное транспортное средство сегодня не знает, что людям не нравится, когда их убивают.
  • tortugahas quoted3 years ago
    Допустим, Гарриет хочет совершить восхождение на Эверест. Консеквенциалистский Робби решил бы попросту поднять ее и высадить на вершину Эвереста, раз это ее желаемое последствие. По всей вероятности, Гарриет будет решительно против такого плана, ведь это не позволило бы ей преодолевать трудности, следовательно, ощутить восторг от результата, достигнутого решением сложной задачи собственными силами. Очевидно, правильно сконструированный консеквенциалистский Робби понял бы, что последствия включают все переживания Гарриет, а не только конечную цель. Он мог бы захотеть оказаться рядом в случае непреодолимых сложностей, а также гарантировать, чтобы Гарриет получила необходимую экипировку и подготовку, но он также согласился бы с правом Гарриет подвергнуть себя беспрецедентному риску смерти.
fb2epub
Drag & drop your files (not more than 5 at once)