هدف یک ابزار جدید استفاده از هوش مصنوعی برای تبدیل اینترنت به مکانی امن‌تر برای مردم بومی است.
این پروژه نام wâsikan kisewâtisiwin داده شد که در کری به معنای انرژی مهربان است.
ما در تلاش هستیم تا اینترنت را به مکانی بهتر تبدیل کنیم. شانی گوین به CBC گفت: ما در تلاش هستیم تا مسیر اینترنت را به سمت تبعیض علیه مردم تغییر دهیم. رادیو فعال.
Gwynn یک کارآفرین متیس و بنیانگذار pipikwan pêhtâkwan، شرکت ارتباطات بومی مستقر در ادمونتون است که این پروژه را رهبری می کند.
توسعه یافته با همکاری موسسه هوش ماشین آلبرتا (AMii)، این ابزار دو منظوره است و برای کمک به بومیان و غیربومیان کانادایی در کاهش نژادپرستی، سخنان مشوق نفرت و تعصب آنلاین طراحی شده است.
اولین عملکرد این برنامه تعدیل فضاهای آنلاین مانند بخش نظرات است. گوین گفت، در حالی که اینترنت ابزاری است که توسط مردم بومی برای حمایت استفاده می‌شود، اما اغلب می‌تواند فضای خطرناکی برای جوامعی باشد که علیه آنها تبعیض قرار می‌گیرند.
گوین گفت تنها یک نظر کافی است تا فضای آنلاین تند شود.
این ابزار نظرات نفرت‌انگیز را پرچم‌گذاری می‌کند و سپس پاسخ‌های نمونه را ارائه می‌کند، در حالی که آن موارد را برای گزارش‌های آینده مستند می‌کند.
ویژگی دوم این ابزار برای خدمت به عنوان یک افزونه نوشتن برای رایانه شما طراحی شده است – شبیه به Grammarly. برای کمک به کانادایی‌ها در درک سوگیری‌هایشان، هر نوشته‌ای را که ممکن است علیه مردم بومی مغرضانه باشد علامت‌گذاری می‌کند، توضیح و پیشنهادی برای نحوه بیان مجدد جمله ارائه می‌کند.
Ayman Qroon، دانشمند یادگیری ماشین در Amii، توضیح داد که این سیستم بسیار شبیه ابزار ربات چت هوش مصنوعی ChatGPT عمل می کند. این نرم افزار کامپیوتری پیشرفته است که برای درک و تولید زبان انسانی آموزش دیده است.
می‌توانید با نشان دادن هزاران کتاب، مقاله و وبلاگ به یک کودک آموزش دهید. و در نهایت زبان و دانش نهفته در آن زبان را می‌فهمند».
سپس Qroon به مدل زبان دستور می دهد که یک نظر داده شده را به عنوان سخنان مشوق عداوت و تنفر طبقه بندی کند یا نه – و دلیلی برای دلیل آن ارائه دهد.
اعتیادها تعصب ها را تغذیه می کند
اما محتوای مبتنی بر هوش مصنوعی همچنین می تواند نفرت و اطلاعات نادرست ایجاد کند.
هوش مصنوعی در حال حاضر از دریچه فرهنگ غالب کانادا طراحی شده است. و من می‌توانم استدلال کنم که در سطح جهانی، بدون کمک جوامع نژادی، از جمله مردم بومی، هوش مصنوعی نمی‌تواند محتوای ایمن و محترمانه از نظر فرهنگی را تحلیل و تولید کند.»
او گفت: «هر بخش از زیرساخت در کانادا از لنز پدرسالار سفید ساخته شده است. بنابراین افراد نژادپرستانه، زنان بیشتری باید در توسعه هوش مصنوعی مشارکت کنند تا دیگر به شکلی ساخته نشود که به ما آسیب برساند.»
Qroon گفت که خوشحالم که می بیند افرادی که سوگیری های اساسی ممکن است در هوش مصنوعی وجود داشته باشد را زیر سوال ببرند.
این بدان معناست که ما به مشکل اهمیت می دهیم و به آن فکر می کنیم.
حقیقت این است که این مدل‌ها فقط می‌خواهند از داده‌هایی که به آنها نشان می‌دهید یاد بگیرند. اگر اینترنت مغرضانه باشد، سوگیری را یاد خواهد گرفت – اگر سخنان نفرت انگیز وجود داشته باشد، آن را نیز یاد خواهد گرفت.»
قرون گفت که تعصبات هوش مصنوعی در آموزش ظاهر شد و افزود که گاهی اوقات هنگام آزمایش با هوش مصنوعی، سعی می کند مصیبت هایی را که بومیان متحمل شده اند به حداقل برساند.
و بنابراین برای ما بسیار مهم بود که جامعه محلی را در این فرآیند ادغام کنیم و دیدگاه آنها را دریافت کنیم و دستورالعمل ها را از آنها دریافت کنیم.”
رادیو فعال9:02ابزار هوش مصنوعی بومی
یک کارآفرین متیس در ادمونتون می خواست بداند آیا می توان از هوش مصنوعی برای بهبود تجربه آنلاین برای مردم بومی استفاده کرد یا خیر. شانی گوین بنیانگذار pipikwan pêhtâkwan است.
پروژه به عنوان یک انتخاب شده است نیمه نهایی برای کمک هزینه تحصیلی MIT Solve 2024 برای جوامع محلی.
گوین گفت که امیدواری او برای این پروژه این است که کمک کند کار عاطفی آموزش از مردم بومی دور شود – و آنها را آزاد کند تا کارهایی را علاوه بر بخش نظرات متوسط انجام دهند.
«من فکر می‌کنم ممکن است این نگرانی وجود داشته باشد که مردم فکر کنند این ابزار هوش مصنوعی مشاغل را از افراد بومی می‌گیرد، اما اینطور نیست، موضوع این نیست. او آنجاست تا کاری را انجام دهد که ما نمی‌خواهیم.»
اما این به معنای تغییر اینترنت و قلب و ذهن کانادایی ها در مورد اینکه بومیان چه کسانی هستند نیز می باشد.