bato-adv
bato-adv

چرا تهدید چت جی پی تی (ChatGPT) را باید جدی گرفت؟

چرا تهدید چت جی پی تی (ChatGPT) را باید جدی گرفت؟

به احتمال زیاد این بزرگترین و قدرتمندترین موسسات و نهاد‌ها خواهند بود که از هرگونه تکنیک لابی‌گری مبتنی بر هوش مصنوعی با بیش‌ترین میزان و احتمال موفقیت به نفع خود استفاده خواهند کرد.

تاریخ انتشار: ۱۷:۱۲ - ۲۷ دی ۱۴۰۱

بروس اشنایرفرارو- بروس اشنایر رمزنگار، متخصص امنیت رایانه، متخصص حریم خصوصی و نویسنده آمریکایی است. اشنایر از نوامبر ۲۰۱۳ میلادی مدرس سیاستگذاری عمومی در مدرسه کندی هاروارد و عضو مرکز اینترنت و جامعه برکمن کلاین بوده است. او عضو هیئت مشاوران مرکز اطلاعات الکترونیکی حریم خصوصی است. از اشنایر چندین کتاب در حوزه‌های امنیت عمومی، امنیت رایانه و رمزنگاری چاپ شده است. اشنایر در سال ۲۰۱۵ میلادی جایزه یک عمر دستاورد EPIC را از مرکز اطلاعات حریم خصوصی الکترونیکی دریافت کرد. کتاب جدید او "ذهن یک هکر" نام دارد. در سال ۲۰۰۰ میلادی میلادی مقاله او نامزد دریافت جایزه هوگو برای بهترین مقاله مرتبط با ژانر علمی - تخیلی شد.

به گزارش فرارو به نقل از نیویورک تایمز، چت جی پی تی (ChatGPT) که چندهفته پیش راه اندازی شد در حال حاضر تهدید کرده که نحوه پیش نویس ارتباطات روزمره مانند ایمیل‌ها، مقالات دانشگاهی و بسیاری از اشکال دیگر نوشتن را تغییر خواهد داد. ChatGPT که توسط شرکت OpenAI ایجاد شده یک ربات چت است که می‌تواند به طور خودکار به درخواست‌های نوشته شده به شیوه‌ای که گاهی به طرز وحشتناکی به انسان نزدیک است پاسخ دهد.

علیرغم تمام نگرانی‌ها در مورد امکان جایگزینی انسان با ماشین در حوزه‌هایی مانند سرودن شعر و خلق متون کمدی یک تهدید به مراتب بزرگتر وجود دارد: این که هوش مصنوعی جایگزین انسان‌ها در فرایند‌های دموکراتیک نه از طریق رای دادن، بلکه از طریق لابی گری شود. ChatGPT می‌تواند به طور خودکار نظرات ارسال شده در فرآیند‌های نظارتی را بنویسد. هم چنین، قادر است برای انتشار در روزنامه‌های محلی به سردبیر نامه بنویسد.

هم چنین قادر است روزانه میلیون‌ها بار در مورد مقالات خبری، ورودی‌های وبلاگ و پست‌های رسانه‌های اجتماعی نظر دهد. چت جی پی تی می‌تواند کاری که آژانس تحقیقات اینترنتی روسیه در تلاش برای تاثیرگذاری بر انتخابات ایالات متحده در سال ۲۰۱۶ میلادی انجام داد را تقلید کند، اما بدون هرگونه بودجه چند میلیون دلاری گزارش شده نهاد‌ها و بدون نیاز به صد‌ها پرسنل این کار را انجام دهد.

نظرات ایجاد شده به صورت خودکار مشکل جدیدی نیستند. مدت‌هاست که ما با ربات‌ها ماشین‌هایی که به‌طور خودکار محتوا ارسال می‌کنند دست و پنجه نرم می‌کنیم. پنج سال پیش دست کم یک میلیون نظر پیش نویس خودکار به کمیسیون ارتباطات فدرال در مورد مقررات پیشنهادی پیرامون بی‌طرفی شبکه ارائه شد.

در سال ۲۰۱۹ میلادی یک دانشجوی دانشگاه هاروارد از برنامه تولید متن برای ارسال ۱۰۰۱ نظر برای اظهارنظر عمومی در مورد موضوعی مرتبط با مدیکید (برنامه بهداشتی آمریکا برای خانواده‌ها و افراد با منابع و درآمد پایین) استفاده کرد. در آن زمان، ارسال نظرات تنها یک بازی عدد و رقم بود.

پلتفرم‌ها در حذف "رفتار غیراصیل" بهبود یافته‌اند. برای مثال، فیس بوک سالانه بیش از یک میلیارد حساب جعلی را حذف می‌کند. با این وجود، چنین پیام‌هایی تازه آغاز راه هستند. به جای پر کردن اینباکس قانونگذاران امریکایی با ایمیل‌های حمایتی یک سیستم هوش مصنوعی با پیچیدگی‌ای از نوع ChatGPT، اما آموزش دیده بر روی داده‌های مرتبط می‌تواند قانونگذاران امریکایی و اینفلوئنسر‌ها را هدف قرار دهد تا ضعیف‌ترین نقاط در سیستم سیاستگذاری را شناسایی کرده و به شکلی بیرحمانه از آن نقاط ضعف، کارزار‌های روابط عمومی و یا سایر اهرم‌ها بهره‌برداری نماید.

زمانی که ما انسان‌ها این قبیل کار‌ها را انجام می‌دهیم به آن لابی گری می‌گوییم. سیستمی که می‌تواند شبکه‌های سیاسی را درک کند اگر با قابلیت‌های تولید متن ChatGPT همراه شود می‌تواند اعضای کنگره را با بیش‌ترین اهرم در یک حوزه خاص سیاستگذاری شناسایی کند: برای مثال، در حوزه مالیات شرکت‌ها یا هزینه‌های نظامی. چنین سیستمی مانند لابی گران انسانی می‌تواند نمایندگان بلاتکلیف نشسته در کمیته‌ها هدف قرار داده و سپس زمانی که یک لایحه به سمت رای گیری می‌رود منابع را روی اعضای اکثریت حزب متمرکز سازد.

هنگامی که افراد و استراتژی‌ها شناسایی شدند یک ربات چت متکی بر هوش مصنوعی مانند چت جی پی تی ChatGPT می‌تواند پیام‌های مشاوره‌ای ایجاد کند تا در نامه‌ها و نظرات مورد استفاده قرار گیرد یعنی در هر جایی که متن مفید باشد. لابی‌گران انسانی نیز می‌توانند به طور مستقیم آن افراد را هدف قرار دهند. این ترکیبی حائز اهمیت است: نظرات تحریریه و رسانه‌های اجتماعی شما را به نتیجه می‌رساند و صرف دانستن این که کدام قانونگذار را هدف قرار دهید به خودی خود کافی نیست.

این توانایی برای درک و هدف قرار دادن بازیگران در یک شبکه ابزاری برای هک کردن، بهره برداری از آسیب پذیری‌ها در سیستم‌های اجتماعی، اقتصادی و سیاسی از طریق هوش مصنوعی با سرعت و وسعتی باورنکردنی را فراهم می‌سازد. سیستم‌های قانونی هدف خاصی خواهند بود، زیرا انگیزه حمله به سیستم‌های سیاستگذاری بسیار قوی است، زیرا داده‌ها برای آموزش چنین سیستم‌هایی بسیار در دسترس هستند و به دلیل استفاده از هوش مصنوعی ممکن است تشخیص آن بسیار دشوار باشد به ویژه اگر به طور استراتژیک برای هدایت بازیگران انسانی مورد استفاده قرار گیرند.

داده‌های لازم برای آموزش چنین سیستم‌های هدف گیری استراتژیکی تنها با گذشت زمان افزایش می‌یابند. جوامع باز عموما فرآیند‌های دموکراتیک خود را به یک موضوع عمومی تبدیل می‌کنند و اکثر قانونگذاران مشتاق هستند دست کم از نظر اجرایی پیام‌هایی را بپذیرند و به آن پاسخ دهند پیام‌هایی که به نظر می‌رسد از طرف رای دهندگان‌شان هستند.

شاید یک سیستم هوش مصنوعی بتواند آشکار سازد که کدام یک از اعضای کنگره دارای نفوذ قابل‌توجهی بر رهبری آن نهاد هستند. هم چنین، سیستم هوش مصنوعی شاید حتی بتواند اندازه و ابعاد کمک مالی مورد نیاز برای تاثیرگذاری بر نهاد و هدایت تبلیغات آنلاین هدفمند را تنظیم کند. چنین سیستمی می‌تواند برای هر سیاستگذاری‌ای مخاطب مناسب و برای هر مخاطب پیامی مناسب در زمانی مناسب بیابد و خلق کند.

آنچه تهدید لابی‌های مبتنی بر هوش مصنوعی را بیش از تهدید شرکت‌های لابی گر انسانی می‌سازد ظرفیت بالقوه آن برای تسریع اقدامات است. لابی گران انسانی برای یافتن راه حل‌های استراتژیک به منظور دستیابی به یک نتیجه به چندین دهه تجربه متکی هستند. این تخصص محدود و در نتیجه گران قیمت است.

هوش مصنوعی از لحاظ نظری می‌تواند همین کار را بسیار سریع‌تر و ارزان‌تر انجام دهد. سرعت خارج شدن از دروازه یک مزیت بزرگ در اکوسیستمی است که در آن افکار عمومی و روایت‌های رسانه‌ای می‌توانند به سرعت تثبیت شوند همانطور که به اندازه کافی چابک بودن برای تغییر سریع در واکنش به رویداد‌های آشفته جهان امروز یک مزیت محسوب می‌شود. هوش مصنوعی از این مزیت برخوردار است.

علاوه بر این، انعطاف پذیری هوش مصنوعی می‌تواند به دستیابی به نفوذ در بسیاری از سیاست‌ها و حوزه‌های قضایی کمک کند. یک شرکت لابی گر با کمک هوش مصنوعی را تصور کنید که می‌تواند در هر لایحه‌ای که در کنگره ایالات متحده یا حتی در تمام مجالس قانونگذاری ایالتی منتشر می‌شود قوانینی را قرار دهد. شرکت‌های لابی گر تمایل دارند تنها در یک ایالت کار کنند، زیرا تغییرات پیچیده‌ای در قانون، رویه و ساختار سیاسی وجود دارد. با این وجود، با استفاده از هوش مصنوعی ممکن است اعمال قدرت در سراسر مرز‌های سیاسی آسان‌تر شود.

همانطور که معلمان باید نحوه امتحانات و تکالیف انشاء دانش آموزان را با توجه به ChatGPT تغییر دهند دولت‌ها نیز باید نحوه ارتباط شان با لابی‌ها را تغییر دهند. مطمئنا ممکن است مزایای این فناوری در فضای دموکراتیک نیز وجود داشته باشد. بزرگترین مورد دسترسی است. همگان نمی‌توانند یک لابی گر با تجربه را استخدام کنند با این وجود، یک رابط نرم افزاری مبتنی بر هوش مصنوعی می‌تواند در دسترس هر فردی قرار گیرد. اگر خوش شانس باشیم شاید این نوع از هوش مصنوعی تولید کننده استراتژی بتواند با ارائه قدرت لابی گری به افراد ناتوان به دموکراتیک‌تر شدن دموکراسی کمک کند.

با این وجود، به احتمال زیاد این بزرگترین و قدرتمندترین موسسات و نهاد‌ها خواهند بود که از هرگونه تکنیک لابی گری مبتنی بر هوش مصنوعی با بیش‌ترین میزان و احتمال موفقیت به نفع خود استفاده خواهند کرد. در هر حال، اجرای بهترین استراتژی لابی‌گری هم چنان به افراد خودی خواهد بود، افرادی که می‌توانند در دالان‌های قانونگذاری قدم بزنند و هم چنین به پول نیاز دارد.

لابی گری تنها به معنای دادن پیام مناسب به فرد مناسب در زمان مناسب نیست. لابی گری هم چنین در مورد دادن پول به فرد مناسب در زمان مناسب است. علیرغم آن که یک ربات چت مبتنی بر هوش مصنوعی می‌تواند تشخیص دهد که چه فردی باید کمک‌های کارزار را دریافت کند انسان‌ها در آینده قابل پیش بینی نیاز به تامین پول نقد خواهند داشت. بنابراین، در حالی که نمی‌توان پیش بینی کرد آینده‌ای که با لابی‌گران هوش مصنوعی پر می‌شود چگونه خواهد بود به نظر می‌رسد که هوش مصنوعی لابی گران را تاثیرگذارتر و قدرتمندتر خواهد ساخت.

bato-adv
bato-adv
bato-adv