الروبوت لن يرغب في أن يُطفأ، لأنك منحته هدفاً ليحققه، والإطفاء يعني الفشل، فسيبذل قصارى جهده كي لا يُطفأ. هذه حكاية لا تتضح في معظم الأفلام، لكنني أرى أنها مشكلة حقيقية.

ستيوارت راسل
حكم.net
النص الأصلي بالإنجليزية

“The robot is not going to want to be switched off because you've given it a goal to achieve and being switched off is a way of failing - so it will do its best not to be switched off. That's a story that isn't made clear in most movies but it I think is a real issue.”Stuart J. Russell — Intelligent robots don't need to be conscious to turn against us

📖 كتاب «Intelligent robots don't need to be conscious to turn against us» على أمازون

ستيوارت راسل

عالم حاسوب · 1962–. له 29 حكمة في الموقع.

من حكم ستيوارت راسل

  1. ما يمكن للذكاء الاصطناعي أن يفعله هو أن يكون أداةً قويةً تضخّم الذكاء البشري وتمنحنا القدرة على دفع حضارتنا إلى الأمام. قد يشفي الأمراض، وقد يقضي على الفقر. وبالتأكيد ينبغي أن يشمل ذلك منع الكارثة البيئية. فإن كان بوسعه أن يُسهم في كل ذلك، عندئذٍ سأرى أنه يستحق العناء.
    #الحركة#الحضارة
  2. لا أحد لديه أدنى فكرة عن كيفية صناعة آلة واعية. وما نعرفه عن صناعة مركبة فضائية أسرع من الضوء أكثر بكثير مما نعرفه عن ذلك.
    #النور#الآلات
  3. حين يتحدث الناس عن التفرد التقني، وعن الذكاء الاصطناعي الفائق، فهم لا يتحدثون عن الإحساس أو الوعي، بل عن قدرةٍ تفوق البشر على اتخاذ قرارات عالية الجودة.
    #الكلام#الناس
كل حكم ستيوارت راسل

حكم أخرى عن التفكير

  1. أرى أن النساء مخطئات حين يدّعين أنهن يساوين الرجال، فهن أرفع منهم بكثير، وكنّ كذلك دائماً.
    ويليام غولدنغ#المرأة القوية#التفكير
  2. المعلّمون الحقيقيون هم من يساعدوننا على أن نفكّر بأنفسنا.
    سارفيبالي راذاكريشنان#المعلم#التفكير
  3. التفكير شاقّ، ولهذا يلجأ أكثر الناس إلى الحكم على الأشياء.
    كارل يونغ#التفكير#الناس
كل الحكم عن التفكير