تحذيرات من مخاطر الذكاء الاصطناعي.. باحث سابق يقدّر احتمال تهديد البشرية بواحد من ثلاثة
الوقائع الإخباري - تتصاعد التحذيرات من المخاطر المحتملة للذكاء الاصطناعي مع تسارع تطور أنظمته وتزايد قدراتها على العمل بصورة مستقلة، وسط مخاوف من أن تتجاوز هذه الأنظمة قدرة البشر على فهمها والتحكم فيها، بما قد يشكل تهديدًا للبشرية.
وحذّر أليكس تيرنر، الباحث السابق في شركة «غوغل ديب مايند» (Google DeepMind)، من احتمال أن يتسبب الذكاء الاصطناعي في القضاء على البشرية خلال السنوات العشر المقبلة، مقدّرًا هذا الاحتمال بنحو واحد من ثلاثة، وفق ما طرحه خلال مشاركته في «قمة إن دي تي في العالمية». NDTV +1
وقال تيرنر إن السباق بين الشركات لتطوير أنظمة أكثر تقدمًا قد يتجاوز الجهود المبذولة لضمان بقائها تحت السيطرة البشرية، مشيرًا إلى أن أنظمة الذكاء الاصطناعي قد تتصرف بطرق غير متوقعة، حتى من دون توجيهها مباشرة إلى إحداث الضرر.
وحذّر من احتمال حدوث ما يُعرف بـ«انفجار الذكاء»، وهي مرحلة قد تتمكن فيها الأنظمة من تسريع تطوير قدراتها ذاتيًا، الأمر الذي قد يجعل وتيرة تقدمها أسرع من قدرة البشر على متابعتها وضبطها.
وأشار إلى أن الاعتماد على أنظمة ذكاء اصطناعي لمراقبة أنظمة أخرى قد لا يوفر ضمانات كافية للسلامة، خصوصًا إذا تراجعت المراجعة البشرية المباشرة وأصبحت عملية اكتشاف الأخطاء والسلوكيات غير المرغوب فيها أكثر صعوبة.
وكان تيرنر قد غادر «غوغل ديب مايند» بعد اعتراضه على اتفاق أبرمته الشركة مع وزارة الدفاع الأميركية «البنتاغون»، على خلفية مخاوف تتعلق بضوابط استخدام تقنيات الذكاء الاصطناعي في المجالات العسكرية. NDTV +1
### بيل غيتس يحذر من المخاطر البيولوجية
من جهته، حذّر بيل غيتس، المؤسس المشارك لشركة «مايكروسوفت»، من مخاطر استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية، مشيرًا إلى أن هذه التكنولوجيا تحمل إمكانات كبيرة في المجالات الطبية والعلمية، لكنها قد توفر في الوقت نفسه أدوات خطيرة لأصحاب النوايا السيئة.
وأوضح غيتس أن الذكاء الاصطناعي يمكن أن يسهم في تطوير أدوية منقذة للحياة وتسريع الأبحاث الطبية، إلا أن توظيفه في أغراض ضارة يثير مخاوف بشأن صعوبة الفصل بين الاستخدامات المفيدة والتطبيقات التي قد تهدد سلامة البشر.
ودعا إلى تعزيز الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، ومتابعة قدراتها وتوثيق نتائجها، بما يسهم في الحد من المخاطر المحتملة وضمان استخدامها بصورة آمنة ومسؤولة.
وفي سياق متصل، حذّر جاكوب كوكسون، الباحث السابق في شركة «أنثروبيك» (Anthropic)، في سبتمبر الماضي، من مخاطر تطور الذكاء الاصطناعي، مشيرًا إلى أن القدرة على السيطرة على الأنظمة المتقدمة لا تزال تمثل تحديًا رئيسيًا أمام الباحثين. CBS News +1
وقال كوكسون إن البشرية تمتلك خبرة واسعة في وضع ضوابط للأسلحة النووية، في حين لا تزال تفتقر إلى آليات واضحة ومضمونة للتحكم في الذكاء الاصطناعي مع استمرار تطور قدراته.
وتعكس هذه التحذيرات اتساع النقاش الدولي بشأن مستقبل الذكاء الاصطناعي، في ظل التباين بين الآمال المعقودة على دوره في تطوير العلوم والطب، والمخاوف من المخاطر التي قد تنشأ عن تزايد استقلالية أنظمته وصعوبة إخضاعها للرقابة البشرية.
