افشای مکالمات کاربران با هوش مصنوعی «گروک»

افشاگری تازه نشان می‌دهد گفت‌وگوهای محرمانه کاربران با دستیار هوش مصنوعی «گروک» بی‌خبر از خودشان روی اینترنت منتشر شده است. 

به گزارش فارس به نقل از‌ای او ال، اگر تا به حال با دستیار هوش مصنوعی «گروک» گفت‌وگو کرده‌اید، ممکن است بخش‌هایی از آن مکالمه روی اینترنت در دسترس عموم قرار گرفته باشد.

طبق گزارشی از «فوربز»، این دستیار هوش مصنوعی متعلق به «ایلان ماسک» بیش از ۳۷۰ هزار گفت‌وگو را روی وب‌سایت خود منتشر کرده که بعد توسط موتورهای جست‌وجو ایندکس و عمومی شده‌اند. 

برخی از این مکالمات محتوای عادی و بی‌ضرری داشته‌اند، اما تعدادی از آن‌ها شامل موارد حساس و حتی غیرقانونی بوده‌اند؛ مثل دستورالعمل ساخت مواد مخدر غیرمجاز مانند فنتانیل و مت‌آمفتامین، یا راهنمایی برای ساخت بمب و روش‌های خودکشی. علاوه بر متن چت‌ها، فایل‌های بارگذاری‌شده توسط کاربران مثل عکس‌ها، جدول‌ها و اسناد دیگر هم منتشر شده است. 

شرکت «اکس‌اِی‌آی» که توسعه‌دهنده گروک است، تاکنون به درخواست رسانه‌ها برای توضیح واکنشی نشان نداده است. این اتفاق تازه‌ترین نمونه از مجموعه‌ای گزارش‌های نگران‌کننده درباره ریسک‌های استفاده از چت‌بات‌هاست و به کاربران یادآوری می‌کند که هنگام استفاده از دستیارهای هوش مصنوعی باید بیشتر مراقب اطلاعاتی باشند که به اشتراک می‌گذارند. 

در اوایل همین ماه، وب‌سایت «۴۰۴ مدیا» هم خبر داده بود که یک پژوهشگر بیش از ۱۳۰ هزار گفت‌وگوی کاربران با دستیارهای هوش مصنوعی مختلف مثل «کلود» و «چت‌جی‌پی‌تی» را روی سایت «آرشیو. اورگ» (Archive. org) پیدا کرده است. این نشان می‌دهد مشکل افشای داده‌ها تنها به گروک محدود نمی‌شود. 

نکته مهم این است که وقتی کاربر در گروک دکمه اشتراک‌گذاری را می‌زند، مکالمه به‌طور خودکار روی سایت گروک منتشر می‌شود؛ بدون هیچ هشدار یا اعلامی به کاربر. از آنجا که این لینک‌ها در اختیار موتورهای جست‌وجو قرار می‌گیرند، هر کسی می‌تواند به آن‌ها دسترسی داشته باشد. این موضوع در حالی رخ می‌دهد که در هیچ جای پلتفرم هشدار شفافی در این‌باره داده نشده است. 

با این حال، کاربران یک امکان برای مدیریت چت‌هایشان دارند. با رفتن به آدرس grok. com/share-links می‌توانند تاریخچه گفت‌وگوهای به اشتراک گذاشته‌شده را ببینند و با زدن دکمه «ریمو» آن‌ها را پاک کنند. هرچند هنوز مشخص نیست که آیا این حذف، اثری روی نسخه‌های ایندکس‌شده در موتورهای جست‌وجو خواهد داشت یا نه. 

مدیر بنیاد «موزیلا»، هشدار می‌دهد که کاربران باید هیچ‌وقت اطلاعات شخصی یا محرمانه خود مثل کارت شناسایی یا داده‌های حساس را در این سیستم‌ها وارد نکنند. او می‌گوید مشکل اصلی این است که شرکت‌های هوش مصنوعی شفاف توضیح نمی‌دهند چه میزان داده جمع‌آوری می‌شود و در چه شرایطی ممکن است افشا شود. این نگرانی وقتی جدی‌تر می‌شود که بدانیم حتی نوجوانان ۱۳‌ساله هم می‌توانند از چنین چت‌بات‌هایی استفاده کنند. 

او تأکید می‌کند شرکت‌هایی مثل گروک و چت‌جی‌پی‌تی باید صادقانه خطرات احتمالی را برای کاربران توضیح دهند. همان‌طور که این شرکت‌ها می‌گویند هوش مصنوعی ممکن است اشتباه کند، باید هشدار مشابهی هم درباره ریسک انتشار داده‌ها بدهند. بر اساس آمار شرکت بازاریابی «فرست پیج سیج»، سهم بازار گروک تنها ۰٫۶ درصد است و بسیار عقب‌تر از رهبران اصلی بازار مثل چت‌جی‌پی‌تی با ۶۰٫۴ درصد، «مایکروسافت کوپایلوت» با ۱۴٫۱ درصد و «گوگل جمنای» با ۱۳٫۵ درصد قرار دارد.