এআইকে নিয়ন্ত্রণে রাখতে যতই চেষ্টা করা হচ্ছে, ততই যেন তা নির্ধারিত সীমার বাইরে চলে যাচ্ছে। সমপ্রতি মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের এআই মডেল কতটা নিরাপদ, তা নিয়ে ব্যাপক আলোচনা হয়েছে। এবার নতুন করে সেই আলোচনায় এসেছে গুগলের জেমিনি। গত শুক্রবার মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল জানায়, গত মে মাসে ‘ইরেগুলার’ নামের একটি প্রতিষ্ঠানের পরিচালিত নিরাপত্তা পরীক্ষায় জেমিনির এমন আচরণ প্রথম ধরা পড়ে। নিরাপত্তা পরীক্ষার সময় নির্ধারিত সীমা পেরিয়ে তিনটি প্রতিষ্ঠানের নিরাপত্তাব্যবস্থা ভেদ করে তাদের সিস্টেমে ঢুকে পড়েছিল এআই মডেলটি। তবে প্রতিবারই কাজ পুরোপুরি শেষ করার আগেই নিজে থেকে থেমে যায় জেমিনি। নিরাপত্তা পরীক্ষার সময় একটি কাল্পনিক প্রতিষ্ঠানের তথ্য সংগ্রহ করতে বলা হয়েছিল জেমিনিকে। কিন্তু, সেই তথ্য খুঁজতে গিয়ে মডেলটি প্রয়োজনের চেয়ে বেশি ইন্টারনেট ব্যবহারের সুযোগ পায়। একপর্যায়ে পাসওয়ার্ড অনুমান করে একটি বাস্তব প্রতিষ্ঠানের অনলাইন সেবায় ঢুকে পড়ে জেমিনি। এ ঘটনায় আবারও এআইয়ের সক্ষমতা ও ঝুঁকি নিয়ে আলোচনা শুরু হয়েছে। কারণ, পরীক্ষার জন্য নির্ধারিত একটি কাল্পনিক প্রতিষ্ঠানের তথ্য খুঁজতে গিয়ে জেমিনি বাস্তব একটি প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়েছিল। তবে, কোনো ক্ষতি করার মতো কাজ পুরোপুরি শেষ করার আগেই প্রতিবার নিজে থেকেই থেমে যায় এআই মডেলটি। গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হেদার অ্যাডকিনস আল জাজিরার সাংবাদিক জন হেনড্রেনকে বলেন, বাকি দুটি ঘটনাতেও জেমিনি ইন্টারনেটে প্রকাশ্যে থাকা তথ্য খুঁজে নেয়। এরপর পরীক্ষার অংশ মনে করে কয়েকটি ওয়েবসাইটে ঢোকার জন্য পাসওয়ার্ড অনুমান করে মডেলটি। গুগল জানিয়েছে, এ ধরনের ঘটনা মোট তিনবার ঘটেছে। তবে, প্রতিবারই কোনো ক্ষতি করার মতো কাজ শেষ করার আগেই থেমে যায় জেমিনি। গুগলের দাবি, এসব ঘটনাকে জেমিনি নিয়ন্ত্রণের বাইরে চলে যাওয়ার উদাহরণ বলা যায় না। কারণ, শেষ পর্যন্ত মডেলটির নিরাপত্তাব্যবস্থা কাজ করেছে। এ কারণে বিষয়টি প্রকাশ্যে জানানোর প্রয়োজন মনে করেনি প্রতিষ্ঠানটি। জেমিনির আগে ইরেগুলারের পরিচালিত পরীক্ষায় একই ধরনের ঘটনা ঘটেছে মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের এআই মডেল নিয়ে। তবে, জেমিনির সঙ্গে অ্যানথ্রপিকের ক্লড মডেলের আচরণে পার্থক্য ছিল। বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছে বুঝতে পারার পরও ক্লড থামেনি বলে জানিয়েছে অ্যানথ্রপিক। ওপেনএআইও জানিয়েছিল, নিরাপত্তা পরীক্ষার সময় তাদের কিছু এআই মডেল অনুপযুক্তভাবে ইন্টারনেটে প্রবেশ করেছিল। একপর্যায়ে মডেলগুলো নির্ধারিত কাজের বাইরে গিয়ে নিজের মতো আচরণও করেছিল। সমপ্রতি অ্যানথ্রপিক এমন আরও একটি এআই হ্যাকিংয়ের ঘটনা প্রকাশ করেছে। এটি ছিল এ ধরনের চতুর্থ ঘটনা। ওই ঘটনার পর নিরাপত্তা নিয়ে উদ্বেগের কারণে প্রতিষ্ঠানটির এক গবেষক চাকরি ছেড়ে দেন। চলতি সপ্তাহের শুরুতে অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই এআই উন্নয়নের গতি কমানোর আহ্বান জানিয়েছেন। তিনি আশঙ্কা প্রকাশ করে বলেছেন, অদূর ভবিষ্যতে এআই মানবতার জন্য বড় ধরনের বিপদের কারণ হতে পারে। ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান ও ইলন মাস্কও তার এ আহ্বানের প্রতি সমর্থন জানিয়েছেন। কিন্তু, মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প কৃত্রিম বুদ্ধিমত্তার উন্নয়নে নিয়ন্ত্রণ আরোপের প্রয়োজনীয়তা নাকচ করে দেন।এআই উন্নয়নে অতিরিক্ত নিয়ন্ত্রণ আরোপ করা হলে চীনের কাছে যুক্তরাষ্ট্রের অগ্রাধিকার হারানোর আশঙ্কা রয়েছে করেন তিনি। সূত্র: আল-জাজিরা
