اپل فوتوز عزیز! مادربزرگ من سگ نبود! داستان یک خطای دردناک در فناوری - آسمان فارس

وقتی فناوری چهره انسان را نمی شناسد

در دل آرشیو دیجیتال یک خانواده، تصویری از مادربزرگی دیده می گردد که با روسری سفید، دستی بر پیشانی، در آرامش استراحت می نماید. تصویری سیاه وسفید، با کنتراست ظریف میان رنگ پوست تیره و لباس سفید، ثبت شده با نگاهی هنری و انسانی. اما همین تصویر، در جست وجوی واژه سگ (Dog)، به وسیله برنامه Apple Photos به عنوان یکی از نتایج نشان داده می گردد. اشتباهی که از دید یک کاربر عادی شاید قابل چشم پوشی باشد، اما برای کسی که مادربزرگش را انسانی صدساله، خردمند و رنج دیده از تاریخ استعمار می دانسته، شوکه کننده و زخم زننده است.

مادربزرگی که در دوران پیش از استقلال غنا متولد شده و آن قدر زیسته که کارت تبریک تولد از سوی ملکه انگلستان دریافت نموده، نباید در کنار تصاویری از سگ ها ظاهر گردد. به ویژه زمانی که خود سیستم های هوش مصنوعی هنوز در تشخیص افراد سیاه پوست دچار خطاهای جدی هستند. این تجربه، به نوعی تکرار ماجرایی مشابه با اشتباه معروف گوگل در ده سال گذشته است؛ همان زمانی که یک زوج آفریقایی تبار، به اشتباه گوریل برچسب خوردند.

در پژوهش های مختلف درباره هوش مصنوعی، این مسئله بارها آنالیز شده که چگونه داده های ناقص، آموزش ناعادلانه و نبود تنوع در تصاویر آموزشی، باعث بروز چنین خطاهایی می شوند. آنچه برای یک سیستم تصویر است، برای انسان خاطره و شخصیت است. مادربزرگ این خانواده، دارای فرزانگی و حکمت، تاریخ و عشق بوده؛ نه صرفاً چهره ای تیره در کادری محدود.

هنری برای بزرگداشت، نه تحقیر

در شرح این عکس، یک انسان بر بافت پوست، خطوط چهره و تضاد روشنایی و عمق شخصیت مادربزرگ یاد می نماید. اما همین عکس از دید ماشین، شاید شبیه الگوی تصویری موی حیوانات تیره رنگ بوده باشد. این جاست که تضاد اصلی پدیدار می گردد: آن چه برای انسان تجلیل است، برای ماشین می تواند کد اشتباه باشد.

در مقابل، سگی به نام باک آی (Buckeye) - که متعلق به همسر نویسنده بوده - در جست وجوی همان واژه به درستی نمایش داده می گردد. تصویر آن سگ، با رنگ سفید و لکه های تعیین، به راحتی به وسیله الگوریتم تشخیص داده می گردد. همین مقایسه ساده، دردناک است. چهره انسانی که با دقت و عشق عکاسی شده، اشتباه گرفته می گردد؛ اما یک حیوان خانگی، به راحتی تشخیص داده می گردد.

خواسته ای کوچک از غولی بزرگ

نویسنده این تجربه، خواهان غرامت یا جنجال رسانه ای نیست. او فقط یک چیز می خواهد: امکان تصحیح. هم اکنون هیچ گزینه ای در Apple Photos وجود ندارد که کاربر بتواند به سیستم اعلام کند یک تصویر، به اشتباه در دسته بندی خاصی ظاهر شده است. نتیجه؟ تا زمانی که عکس حذف نگردد، هر بار که کسی در تلفن همراه این خانواده عبارت سگ را جست وجو کند، تصویر مادربزرگ نشان داده می گردد.

او پیشنهاد می نماید که اپل، راهی برای علامت گذاری خطای تشخیص به وجود آورد؛ یا حتی امکان ارسال این تصویر برای آموزش بهتر الگوریتم ها را فراهم کند. زیرا بر اساس یافته های پژوهشی، سیستم های هوش مصنوعی زمانی بهبود می یابند که از خطاهای انسانی، و با یاری خود انسان ها یاد بگیرند. و این خطا، زمانی دردناک تر است که در خصوص رنگین پوستان بیشتر رخ می دهد.

خاتمه یک زندگی، و شروع یک مطالبه

در خاتمه این روایت، ما با یاد زنی روبه رو هستیم که صد سال زندگی نموده، بچه ها و نوه هایی را با عشق بزرگ نموده، و با شأن و وقار زیسته است. او تنها یک چهره در میان هزاران تصویر نیست. او نشانه ای است از تاریخ، از فرهنگ، از پایداری انسانی در برابر نادیده گرفتن ها.

فناوری، با تمام وعده هایش، اگر انسان را نشناسد، نه تنها بی فایده، بلکه تحقیرکننده است. هوش مصنوعی باید یاد بگیرد که همه را ببیند؛ بدون پیش فرض، بدون تبعیض. و این شروعش می تواند از احترام به چهره ای باشد که دیگر در این جهان نیست، اما هنوز در حافظهٔ تصویرها، نفس می کشد.

منبع: petapixel