الروبوت لن يرغب في أن يُطفأ، لأنك منحته هدفاً ليحققه، والإطفاء يعني الفشل، فسيبذل قصارى جهده كي لا يُطفأ. هذه حكاية لا تتضح في معظم الأفلام، لكنني أرى أنها مشكلة حقيقية.
النص الأصلي بالإنجليزية
“The robot is not going to want to be switched off because you've given it a goal to achieve and being switched off is a way of failing - so it will do its best not to be switched off. That's a story that isn't made clear in most movies but it I think is a real issue.”Stuart J. Russell — Intelligent robots don't need to be conscious to turn against us
📖 كتاب «Intelligent robots don't need to be conscious to turn against us» على أمازون
ستيوارت راسل
عالم حاسوب · 1962–. له 29 حكمة في الموقع.