تحدّد هدفًا دقيقًا جدًّا، ثم تبني آلةً تفوق البشر في قدرتها على بلوغه. فإن تبيّن أنّ سلوك الروبوت في سعيه إلى ذلك الهدف لم يكن ما تريد، فأنت أمام مشكلة حقيقية.

ستيوارت راسل
حكم.net
النص الأصلي بالإنجليزية

“You have a very precisely defined goal and you build a machine that's superhuman in its capabilities for achieving goals. If it turns out that the subsequent behavior of the robot in achieving that goal was not what you want, you have a real problem.”Stuart J. Russell — Intelligent robots don't need to be conscious to turn against us

📖 كتاب «Intelligent robots don't need to be conscious to turn against us» على أمازون

ستيوارت راسل

عالم حاسوب · 1962–. له 29 حكمة في الموقع.

من حكم ستيوارت راسل

  1. ما يمكن للذكاء الاصطناعي أن يفعله هو أن يكون أداةً قويةً تضخّم الذكاء البشري وتمنحنا القدرة على دفع حضارتنا إلى الأمام. قد يشفي الأمراض، وقد يقضي على الفقر. وبالتأكيد ينبغي أن يشمل ذلك منع الكارثة البيئية. فإن كان بوسعه أن يُسهم في كل ذلك، عندئذٍ سأرى أنه يستحق العناء.
    #الحركة#الحضارة
  2. لا أحد لديه أدنى فكرة عن كيفية صناعة آلة واعية. وما نعرفه عن صناعة مركبة فضائية أسرع من الضوء أكثر بكثير مما نعرفه عن ذلك.
    #النور#الآلات
  3. حين يتحدث الناس عن التفرد التقني، وعن الذكاء الاصطناعي الفائق، فهم لا يتحدثون عن الإحساس أو الوعي، بل عن قدرةٍ تفوق البشر على اتخاذ قرارات عالية الجودة.
    #الكلام#الناس
كل حكم ستيوارت راسل

حكم أخرى عن الهدف

  1. لا تُنزل أهدافك إلى مستوى قدراتك، بل ارفع قدراتك إلى مستوى أهدافك.
    سوامي فيفي كاناندا#الهدف#تحفيز
  2. التنمية ليست مصانع وسدودًا وطرقًا، التنمية هي الإنسان. الغاية هي الارتقاء المادي والثقافي والروحي للناس، والعامل البشري له القيمة العليا في التنمية.
    راجيف غاندي#الناس#الهدف
  3. أودّ أن أُذكر بأنني امرأةٌ لم تخشَ أن تفعل ما أرادت، وبأنني خاضت المخاطر في طريقي لأبلغ أهدافي.
    سالي رايد#النظام#الهدف
كل الحكم عن الهدف