AI নিরাপত্তা সমস্যা সনাক্ত করতে ব্যবহৃত
কিছুদিন আগে, ড্যানিয়েল স্টেনবার্গ (কার্ল-এর লেখক) তাঁর ব্লগে একটি পোস্ট প্রকাশ করেন , যেখানে তিনি শুধু কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম ব্যবহারের সমালোচনাই করেননি , বরং এই সরঞ্জামগুলো দ্বারা তৈরি নিরাপত্তা প্রতিবেদনগুলো তাঁর এবং তাঁর দলের জন্য যে সমস্যা সৃষ্টি করে, সে বিষয়েও অভিযোগ করেছেন।
তার প্রকাশনায় ড্যানিয়েল স্টেনবার্গ উল্লেখ করেছেন যে, বহু বছর ধরে সমস্ত রিপোর্ট যাচাই করা এবং 'আবর্জনা' ও 'আসল' নিরাপত্তা সমস্যার মধ্যে পার্থক্য করার প্রক্রিয়ায় অতিরিক্ত প্রচেষ্টার প্রয়োজন হতো না , কারণ তার মতে, "আবর্জনা রিপোর্টগুলোও সাধারণত খুব সহজে এবং দ্রুত শনাক্ত ও বাতিল করা যেত।"
কৃত্রিম বুদ্ধিমত্তার সাম্প্রতিক উত্থানের ফলে , পূর্বে যে কাজগুলোতে মানুষের বহু ঘণ্টার হস্তক্ষেপের প্রয়োজন হতো, সেগুলোর অনেকটিতেই বৈপ্লবিক পরিবর্তন এসেছে। এই ব্লগে সবচেয়ে বেশি উল্লেখিত উদাহরণগুলোর মধ্যে আমরা প্রোগ্রামিং, ছবি তৈরি এবং ভিডিও সম্পাদনার জন্য নিবেদিত এআই-গুলো নিয়ে আলোচনা করেছি, যেমন চ্যাটজিপিটি (ChatGPT), কোপাইলট (Copilot), এবং বার্ড (Bard) ইত্যাদি।
প্রোগ্রামিংয়ের নির্দিষ্ট ক্ষেত্রে, কপাইলট অসংখ্য সমালোচনা তৈরি করেছে, প্রধান উদ্বেগ হল আইনি মামলার সম্মুখীন হওয়ার সম্ভাবনা। যাইহোক, স্কেলের অন্য প্রান্তে, কৃত্রিম বুদ্ধিমত্তার হস্তক্ষেপ বিভিন্ন ক্ষেত্রে উল্লেখযোগ্যভাবে রূপান্তরিত করেছে। উদাহরণস্বরূপ, কোডে ত্রুটি এবং নিরাপত্তা সমস্যা সনাক্ত করার ক্ষেত্রে, AIs একটি গুরুত্বপূর্ণ ভূমিকা পালন করেছে। অনেক লোক কোডে সম্ভাব্য বাগ এবং দুর্বলতা সনাক্ত করতে এই সরঞ্জামগুলি গ্রহণ করেছে, প্রায়শই সুরক্ষা সমস্যা সনাক্ত করার জন্য বাউন্টি প্রোগ্রামগুলিতে অংশগ্রহণ করে।
এই প্রবণতার ক্ষেত্রে কার্লও ব্যতিক্রম ছিল না, এবং ড্যানিয়েল স্টেনবার্গ তার ব্লগে প্রকাশ করেন যে, বেশ কয়েক মাস ধরে নিজের মতামত চেপে রাখার পর, তিনি অবশেষে কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলোর ব্যবহারের বিরুদ্ধে তীব্র দ্বিমত পোষণ করেন। তার হতাশার কারণ ছিল এই সরঞ্জামগুলো দ্বারা তৈরি হওয়া ক্রমবর্ধমান সংখ্যক "জাঙ্ক" রিপোর্ট।
প্রকাশনাটিতে উল্লেখ করা হয়েছে যে, এই প্রতিবেদনগুলো দেখতে বিস্তারিত , সহজ ভাষায় লেখা এবং উচ্চ মানের বলে মনে হয়। তবে, সতর্ক বিশ্লেষণ ছাড়া এগুলো প্রতারণামূলক বলে প্রমাণিত হয়, কারণ এগুলো আসল সমস্যার পরিবর্তে এমন নিম্নমানের বিষয়বস্তু উপস্থাপন করে যা মূল্যবান বলে মনে হয়।
কার্ল প্রজেক্ট , যা নতুন দুর্বলতা শনাক্ত করার জন্য পুরস্কার প্রদান করে , মোট ৪১৫টি সম্ভাব্য সমস্যার রিপোর্ট পেয়েছে। এর মধ্যে, মাত্র ৬৪টি প্রকৃত দুর্বলতা হিসেবে নিশ্চিত করা হয়েছে, ৭৭টিতে নিরাপত্তার সাথে সম্পর্কহীন বাগের বর্ণনা ছিল, এবং আশ্চর্যজনকভাবে, ২৭৪টিতে ( ৬৬%) কোনো দরকারি তথ্য ছিল না, যা ডেভেলপারদের এমন সময় নষ্ট করেছে যা অন্য কোনো মূল্যবান কাজে ব্যয় করা যেত।
বিকাশকারীরা অকেজো প্রতিবেদনগুলি বিশ্লেষণ করতে এবং এতে থাকা তথ্যগুলি বারবার পরীক্ষা করে অনেক সময় নষ্ট করতে বাধ্য হয়, যেহেতু ডিজাইনের বাহ্যিক গুণমান তথ্যের উপর অতিরিক্ত আস্থা তৈরি করে এবং এমন অনুভূতি হয় যে বিকাশকারী কিছু বুঝতে পারেননি।
অন্যদিকে, এই ধরনের একটি প্রতিবেদন তৈরি করার জন্য অনুরোধকারীর পক্ষ থেকে ন্যূনতম প্রচেষ্টার প্রয়োজন, যিনি প্রকৃত সমস্যা আছে কিনা তা পরীক্ষা করতে বিরক্ত করেন না, তবে ভাগ্যবান হওয়ার আশায় AI সহকারীর কাছ থেকে প্রাপ্ত ডেটা অন্ধভাবে অনুলিপি করেন পুরষ্কার পাওয়ার লড়াইয়ে।
ড্যানিয়েল স্টেনবার্গ এই ধরনের ভিত্তিহীন প্রতিবেদনের দুটি উদাহরণ তুলে ধরেছেন:
- প্রথম ক্ষেত্রে, অক্টোবরে একটি সমালোচনামূলক দুর্বলতা সম্পর্কে পরিকল্পিতভাবে তথ্য প্রকাশের ঠিক আগে, হ্যাকারওনের মাধ্যমে একটি প্রতিবেদন প্রাপ্ত হয়েছিল যা নির্দেশ করে যে সমস্যাটি সমাধান করার জন্য একটি সর্বজনীন প্যাচ ইতিমধ্যেই বিদ্যমান ছিল। যাইহোক, প্রতিবেদনটি "ভুয়া" বলে প্রমাণিত হয়েছে কারণ এতে অনুরূপ সমস্যার তথ্য এবং অতীতের দুর্বলতা সম্পর্কে বিস্তারিত তথ্যের স্নিপেট রয়েছে, যা Google এর কৃত্রিম বুদ্ধিমত্তা সহকারী, বার্ড দ্বারা সংকলিত হয়েছে। যদিও তথ্যটি অভিনব এবং প্রাসঙ্গিক বলে মনে হয়েছিল, তবে বাস্তবতার সাথে এর সংযোগের অভাব ছিল।
- দ্বিতীয় ক্ষেত্রে, WebSocket পরিচালনায় একটি বাফার ওভারফ্লো সম্পর্কে একটি প্রতিবেদন পাওয়া গেছে। এই প্রতিবেদনটি এমন একজন ব্যবহারকারীর কাছ থেকে এসেছে যিনি ইতিমধ্যে হ্যাকারওনের মাধ্যমে বেশ কয়েকটি প্রকল্পে দুর্বলতার কথা জানিয়েছেন। সমস্যাটি পুনরুত্পাদন করার জন্য, রিপোর্টটি কীভাবে একটি সংশোধিত অনুরোধ এবং একটি উদাহরণ সমাধান জমা দিতে হয় সে সম্পর্কে সাধারণ নির্দেশাবলী প্রদান করেছে৷
কোডটি পুঙ্খানুপুঙ্খভাবে ট্রিপল চেক করা সত্ত্বেও, বিকাশকারী কোনও সমস্যা খুঁজে পাননি। যাইহোক, যেহেতু প্রতিবেদনটি এমনভাবে লেখা হয়েছিল যাতে "কিছু" আত্মবিশ্বাস তৈরি হয় এবং এমনকি একটি প্রস্তাবিত সমাধানও উপস্থাপন করা হয়, তাই কিছু যোগ হয়নি এমন অনুভূতি অব্যাহত ছিল।
ব্যবহারকারী কীভাবে সাইজ চেক বাইপাস করতে পেরেছিলেন তা স্পষ্ট করার প্রয়াসে, এটি উল্লেখ করা হয়েছে যে ব্যাখ্যাগুলিতে কোনও অতিরিক্ত তথ্য নেই এবং শুধুমাত্র কার্ল কোডের সাথে সম্পর্কহীন বাফার ওভারফ্লোগুলির সুস্পষ্ট সাধারণ কারণগুলি নিয়ে আলোচনা করা হয়েছে৷ প্রতিক্রিয়াগুলি একজন AI সহকারীর সাথে যোগাযোগের কথা মনে করিয়ে দেয়, এবং সমস্যাটি কীভাবে নিজেকে প্রকাশ করেছিল তা বোঝার নিরর্থক প্রচেষ্টার পরে, ড্যানিয়েল স্টেনবার্গ অবশেষে নিশ্চিত হন যে কোনও দুর্বলতা আসলে বিদ্যমান নেই এবং বিষয়টিকে "প্রযোজ্য নয়" বলে বন্ধ করে দিয়েছিলেন।
অবশেষে, আপনি যদি আরও জানতে আগ্রহী হন, তাহলে নিচের লিঙ্কে বিস্তারিত তথ্য পেয়ে যাবেন ।