১১:৪৯ অপরাহ্ন, রবিবার, ২১ এপ্রিল ২০২৪, ৮ বৈশাখ ১৪৩১ বঙ্গাব্দ

এআই ছবি শনাক্তে মেটার নতুন ফিচার

অন্যান্য কোম্পানির এআই বা কৃত্রিম বুদ্ধিমত্তা দিয়ে তৈরি নকল ছবি চিহ্নিত ও লেবেল করার নতুন প্রযুক্তি নিয়ে আসছে মেটা। প্রযুক্তিটি কোম্পানির ফেসবুক, ইনস্টাগ্রাম ও থ্রেড প্ল্যাটফর্মে ব্যবহার করা হবে। বিবিসির এক প্রতিবেদনে এসব তথ্য জানা যায়।

আগে থেকেই মেটার নিজস্ব সিস্টেমের মাধ্যমে এআই দিয়ে তৈরি ছবি লেবেল করা হতো। তবে এ নতুন প্রযুক্তি এআইভিত্তিক নকল কনটেন্ট চিহ্নিতকরণের ‘গতি’ বৃদ্ধি করবে।

তবে বিবিসিকে এক এআই বিশেষজ্ঞ বলেন, এ ধরনের প্রযুক্তি খুব ‘সহজেই এড়ানো’ যায়।

একটি ব্লগে সিনিয়র এক্সিকিউটিভ স্যার নিক ক্লেগ বলেন, ‘আগামী মাসগুলোতে’ এআই লেবেলে বিভিন্ন প্ল্যাটফর্মে নিয়ে আসতে চায় মেটা।

তিনি বলেন, এ প্রযুক্তি এখনো সম্পূর্ণ তৈরি নয়। তবে কোম্পানিটি ‘অন্যান্য শিল্পের অনুসরণ করার জন্য গতি এবং উৎসাহ তৈরি করতে চায়’।

মেরিল্যান্ড বিশ্ববিদ্যালয়ের নির্ভরযোগ্য এআই ল্যাবের পরিচালক প্রফেসর সোহেল ফিজি বলেন, এ ধরনের সিস্টেমকে খুব সহজেই এড়িয়ে যাওয়া বা ফাঁকি দেওয়া যায়। কিছু নির্দিষ্ট মডেল ব্যবহার করে তৈরি ছবি চিহ্নিত করতে কোম্পানিটি তাদের প্রযুক্তিকে প্রশিক্ষণ দিতে পারে। তবে ছবির ওপরে কিছু হালকা প্রক্রিয়াকরণের মাধ্যমে ডিটেক্টরগুলোকে সহজেই এড়ানো যায় ও এটি উচ্চহারে ভুল ফলাফলও দিতে পারে। তাই এটি বিস্তৃত পরিসরের অ্যাপ্লিকেশনের জন্য কাজ নাও করতে পারে।

টুলটি অডিও ও ভিডিওর জন্য কাজ করবে না বলে মেটা স্বীকার করেছে; কিন্তু এসব নকল কনটেন্ট নিয়ে অনেক বেশি উদ্বেগ রয়েছে।

কোম্পানিটি বলছে- এআই দিয়ে তৈরি ছবি ও ভিডিওগুলোয় লেবেল করার জন্য গ্রাহকদের নির্দেশনা দিয়েছে মেটা। তবে এটি করতে ব্যর্থ হলে গ্রাহকদের জরিমানা দিতেও হতে পারে।

নিক ক্লেগ বলেন, চ্যাটজিপিটির মতো টুল দিয়ে টেক্সট তৈরি করলে তা চিহ্নিত করাও অসম্ভব।

গণমাধ্যমকে ম্যানিপুলেটেড করার নীতির জন্য গত সোমবার মেটা তদারকি বোর্ড কোম্পানিটির অনেক সমালোচনা করে। অসংলগ্ন, ন্যায্যতার অভাব ও কিভাবে কনটেন্ট তৈরি করা হয়েছে তা সঠিকভাবে মেটা লক্ষ্য করছে না বলে বোর্ডটি অভিযোগ করে।

তদারকি বোর্ডটি মেটা অর্থায়ন করে তবে এটি স্বাধীন গ্রুপ হিসেবে কাজ করে।

যুক্তরাষ্ট্রের প্রেসিডেন্ট জো বাইডেনের একটি নকল ভিডিওর প্রতিক্রিয়ায় এই সমালোচনা করা হয়েছিল। প্রশ্নবিদ্ধ ভিডিওটি প্রেসিডেন্টের নাতনির সঙ্গে বিদ্যমান ফুটেজ সম্পাদনা করে তৈরি করা হয়। ভিডিওতে দেখানো হয়, বাইডেন তাকে অনুপযুক্তভাবে স্পর্শ করছেন।

কারণ এটি কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে ভিডিওটি তৈরি করা হয়নি তাই এটি মেটার ম্যানিপুলেটেড মিডিয়া নীতি লঙ্ঘন করেনি এবং প্ল্যাটফর্মগুলো থেকে সরানো হয়নি।

ভিডিওটি নকল মিডিয়া সম্পর্কিত মেটা নীতির ভঙ্গ করেনি বলে বোর্ডের সদস্যরা একমত হন এবং বলেন, এই নীতিগুলো আপডেট করা জরুরি।

জানুয়ারি থেকে কোম্পানির একটি নতুন নীতি তৈরি করা রয়েছে। এই নীতিতে বলা হয়, রাজনৈতিক বিজ্ঞাপনগুলো যখন ডিজিটালভাবে পরিবর্তিত ছবি বা ভিডিও ব্যবহার করছে তখন তাদের লেবেল করতে হবে।

ট্যাগ:

এআই ছবি শনাক্তে মেটার নতুন ফিচার

প্রকাশ: ০৭:৩১:৩৩ পূর্বাহ্ন, সোমবার, ১২ ফেব্রুয়ারী ২০২৪

অন্যান্য কোম্পানির এআই বা কৃত্রিম বুদ্ধিমত্তা দিয়ে তৈরি নকল ছবি চিহ্নিত ও লেবেল করার নতুন প্রযুক্তি নিয়ে আসছে মেটা। প্রযুক্তিটি কোম্পানির ফেসবুক, ইনস্টাগ্রাম ও থ্রেড প্ল্যাটফর্মে ব্যবহার করা হবে। বিবিসির এক প্রতিবেদনে এসব তথ্য জানা যায়।

আগে থেকেই মেটার নিজস্ব সিস্টেমের মাধ্যমে এআই দিয়ে তৈরি ছবি লেবেল করা হতো। তবে এ নতুন প্রযুক্তি এআইভিত্তিক নকল কনটেন্ট চিহ্নিতকরণের ‘গতি’ বৃদ্ধি করবে।

তবে বিবিসিকে এক এআই বিশেষজ্ঞ বলেন, এ ধরনের প্রযুক্তি খুব ‘সহজেই এড়ানো’ যায়।

একটি ব্লগে সিনিয়র এক্সিকিউটিভ স্যার নিক ক্লেগ বলেন, ‘আগামী মাসগুলোতে’ এআই লেবেলে বিভিন্ন প্ল্যাটফর্মে নিয়ে আসতে চায় মেটা।

তিনি বলেন, এ প্রযুক্তি এখনো সম্পূর্ণ তৈরি নয়। তবে কোম্পানিটি ‘অন্যান্য শিল্পের অনুসরণ করার জন্য গতি এবং উৎসাহ তৈরি করতে চায়’।

মেরিল্যান্ড বিশ্ববিদ্যালয়ের নির্ভরযোগ্য এআই ল্যাবের পরিচালক প্রফেসর সোহেল ফিজি বলেন, এ ধরনের সিস্টেমকে খুব সহজেই এড়িয়ে যাওয়া বা ফাঁকি দেওয়া যায়। কিছু নির্দিষ্ট মডেল ব্যবহার করে তৈরি ছবি চিহ্নিত করতে কোম্পানিটি তাদের প্রযুক্তিকে প্রশিক্ষণ দিতে পারে। তবে ছবির ওপরে কিছু হালকা প্রক্রিয়াকরণের মাধ্যমে ডিটেক্টরগুলোকে সহজেই এড়ানো যায় ও এটি উচ্চহারে ভুল ফলাফলও দিতে পারে। তাই এটি বিস্তৃত পরিসরের অ্যাপ্লিকেশনের জন্য কাজ নাও করতে পারে।

টুলটি অডিও ও ভিডিওর জন্য কাজ করবে না বলে মেটা স্বীকার করেছে; কিন্তু এসব নকল কনটেন্ট নিয়ে অনেক বেশি উদ্বেগ রয়েছে।

কোম্পানিটি বলছে- এআই দিয়ে তৈরি ছবি ও ভিডিওগুলোয় লেবেল করার জন্য গ্রাহকদের নির্দেশনা দিয়েছে মেটা। তবে এটি করতে ব্যর্থ হলে গ্রাহকদের জরিমানা দিতেও হতে পারে।

নিক ক্লেগ বলেন, চ্যাটজিপিটির মতো টুল দিয়ে টেক্সট তৈরি করলে তা চিহ্নিত করাও অসম্ভব।

গণমাধ্যমকে ম্যানিপুলেটেড করার নীতির জন্য গত সোমবার মেটা তদারকি বোর্ড কোম্পানিটির অনেক সমালোচনা করে। অসংলগ্ন, ন্যায্যতার অভাব ও কিভাবে কনটেন্ট তৈরি করা হয়েছে তা সঠিকভাবে মেটা লক্ষ্য করছে না বলে বোর্ডটি অভিযোগ করে।

তদারকি বোর্ডটি মেটা অর্থায়ন করে তবে এটি স্বাধীন গ্রুপ হিসেবে কাজ করে।

যুক্তরাষ্ট্রের প্রেসিডেন্ট জো বাইডেনের একটি নকল ভিডিওর প্রতিক্রিয়ায় এই সমালোচনা করা হয়েছিল। প্রশ্নবিদ্ধ ভিডিওটি প্রেসিডেন্টের নাতনির সঙ্গে বিদ্যমান ফুটেজ সম্পাদনা করে তৈরি করা হয়। ভিডিওতে দেখানো হয়, বাইডেন তাকে অনুপযুক্তভাবে স্পর্শ করছেন।

কারণ এটি কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে ভিডিওটি তৈরি করা হয়নি তাই এটি মেটার ম্যানিপুলেটেড মিডিয়া নীতি লঙ্ঘন করেনি এবং প্ল্যাটফর্মগুলো থেকে সরানো হয়নি।

ভিডিওটি নকল মিডিয়া সম্পর্কিত মেটা নীতির ভঙ্গ করেনি বলে বোর্ডের সদস্যরা একমত হন এবং বলেন, এই নীতিগুলো আপডেট করা জরুরি।

জানুয়ারি থেকে কোম্পানির একটি নতুন নীতি তৈরি করা রয়েছে। এই নীতিতে বলা হয়, রাজনৈতিক বিজ্ঞাপনগুলো যখন ডিজিটালভাবে পরিবর্তিত ছবি বা ভিডিও ব্যবহার করছে তখন তাদের লেবেল করতে হবে।