به نقل از «خبرگزاری صدا و سیما»

هوش مصنوعی تهدیدی برای انتخابات ۲۰۲۴ آمریکا است

تاریخ انتشار: ۲۶ فروردین ۱۴۰۲ | کد خبر: ۳۷۵۳۳۶۳۱

به گزارش خبرگزاری صداوسیما به نقل از فورتون، در ۲۷ فوریه و در آستانه انتخابات شهرداری شیکاگو، یک حساب توییتری که خود را Chicago Lakefront News می‌نامد، تصویری از نامزد این جایگاه، پل والاس، مدیر سابق بودجه شهر و رئیس منطقه مدرسه که در رقابتی تنگاتنگ و چهارجانبه برای کسب رتبه برتر شهر بود، منتشر کرد. در این ویدئو از صدا‌های شبیه سازی شده استفاده شده بود.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

به نظر می‌رسید که در این ویدئو والاس تیراندازی‌های پلیس را کم اهمیت جلوه می‌دهد و می‌گوید که در زمان من یک پلیس می‌تواند ۱۸ غیرنظامی را در دوران حرفه‌ای خود بکشد. ما باید از کاهش بودجه پلیس جلوگیری و شروع به بازپرداخت آن‌ها کنیم.

مدتی بعد مشخص شد، والاس چنین حرفی را نزده است. اسن صدا جعلی و احتمالا با نرم افزار هوش مصنوعی شبیه سازی شده بود. حساب کاربری Chicago Lakefront News، که تاریخ ایجاد آن درست به چند روز پیش از انتشار این ویدئو می‌رسید، به سرعت پست را حذف کرد، اما پیش از آن هزاران نفر توئیت را دیدند و به طور گسترده بازنشر شده بود. برخی ظاهرا فریب خوردند و فکر کردند این ویدئو حقیقت است.

سرانجام والاس در دور دوم انتخابات شکست خورد و به نظر نمی‌رسد که این صدا تاثیر قابل توجهی بر نتیجه رقابت شهرداری داشته باشد. با این حال، شبیه‌سازی صدای او پیش‌نمایش ترسناکی از اطلاعات نادرستی است که کارشناسان می‌گویند به لطف پیشرفت‌های سریع در هوش مصنوعی، باید انتظار داشته باشیم که در انتخابات ریاست‌جمهوری ۲۰۲۴ ایالات متحده با آن روبرو شویم.

هوش مصنوعی مولد و چت‌جی‌چی‌تی، تنها نمونه‌ای از این فناوری‌ها است. شرکتی به نام ElevenLabs نرم‌افزاری را منتشر کرده که می‌تواند صدا‌های یک شخص را تنها با آنالیزی چند ثانیه‌ای شبیه‌سازی کند. با پیشرفت این فناوری ها، حالا هرکسی می‌تواند با استفاده از نرم‌افزار‌هایی مانند OpenAI’s DALL-E ۲، Stable Diffusion یا Midjourney، تصاویر واقعی تولید کند.

نرم افزاری توسط استارت‌آپ نیویورکی Runway ایجاد شده که کلیپ‌هایی به طول چند ثانیه تولید می‌کند و یک جاعل ماهر با تکنیک‌های دیپ‌فیک می‌تواند ویدئو‌های جعلی را به قدری خوب بسازد که بسیاری از مردم فریب بخورند.

البته پیش از این هم میشد اطلاعات نادرست را منتشر کرد، اما حالا توانایی انجام این کار سرعت بیشتری گرفته است. برخی تصور می‌کنند فناوری دیپ‌فیک هنوز به اندازه‌ای خوب نیست که بتواند نقش مهمی در انتخابات۲۰۲۴ ایفا کند.

اما شبیه سازی صدا از همین حالا هم نگران کننده است و این احتمال وجود دارد قطعات صوتی منتشر و ادعا شود که نامزد انتخاباتی در جلسه‌ای خصوصی این حرفا را زده است. ممکن است این ادعا انکار شود، اما در میانه راه انتخابات، دیگر برای انکار دیر است.

ساندرا واچر، استاد فناوری و مقررات در مؤسسه اینترنت آکسفورد، می‌گوید: مطالعات به نتایج متناقضی درباره اینکه آیا روایت‌های نادرست کسی را متقاعد می‌کنند یا فقط باور‌های موجود را تقویت می‌کنند، رسیده‌اند. اما در یک انتخابات، حتی چنین تاثیرات حاشیه‌ای می‌تواند تعیین کننده باشد.

در مواجهه با تهدید اخبار جعلی تولید شده از سوی هوش مصنوعی، برخی معتقدند این فناوری ممکن است بهترین دفاع را ارائه دهد. در اسپانیا، شرکتی به نام Newtral که متخصص بررسی ادعا‌های سیاستمداران است، در حال آزمایش با مدل‌های زبانی بزرگ شبیه به آن‌هایی که در چت‌جی‌پی‌تی استفاده می‌شود، است.

روبن میگوئز پرز، مدیر ارشد فناوری نیوترال گفت: با اینکه این مدل‌ها نمی‌توانند حقایق را تایید کنند، اما می‌توانند مردم را در کشف دروغ‌ها یاری دهند. این فناوری می‌تواند با بررسی و تطابق ادعا، احتمال نادرست بودن اطلاعات را ارزیابی کرده آن‌ها را علامت‌گذاری کند. با جفت کردن مدل‌های زبان بزرگ با سایر نرم‌افزار‌های یادگیری ماشینی، می‌توان احتمال اطلاعات نادرست بودن چیزی را براساس احساسات بیان شده در محتوا ارزیابی کند. میگوئز پرز می‌گوید با استفاده از این روش‌ها، زمان لازم برای شناسایی اظهارات بین ۷۰ تا ۸۰ درصد کاهش می‌یابد.

غول‌های فناوری مانند متا و گوگل روی هوش مصنوعی کار می‌کنند. در آستانه انتخابات ریاست‌جمهوری ۲۰۲۰ آمریکا، متا اعلام کرد: هشدار‌هایی را درباره بیش از ۱۸۰ میلیون محتوایی که توسط بررسی‌کنندگان حقایق شخص ثالث حذف شده‌اند، نمایش داده است.

با این حال، اما حجم اطلاعات نادرست منتقل شده، بسیار زیاد است. متا می‌گوید: سیستم‌هایش از زمان انتخابات ۲۰۲۰ بهتر شده‌اند، ولی افرادی که اطلاعات نادرست را منتشر می‌کنند و پیشرفت‌های هوش مصنوعی پیشرفت قابل توجهی داشته‌اند.

گری مارکوس، استاد بازنشسته علوم شناختی دانشگاه نیویورک و کارشناس هوش مصنوعی می‌گوید: تنها با مقررات‌گذاری می‌توان در این شرایط تغییر ایجاد کرد. کنگره باید تولید و انتشار اخبار جعلی و اطلاعات نادرست را غیرقانونی اعلام کند؛ هرچند عده‌ای آن را خلاف متمم اول قانون اساسی آمریکا بدانند. زیرا تدوین کنندگان قانون اساسی هرگز تصور پدیدار شدن چنین فناوری‌های مخربی را نمی‌کردند.

شرکت OpenAI، خالق چت‌جی‌پی‌تی، درباره این نوع واترمارک صحبت کرده، اما هنوز آن را اجرا نکرده و نرم افزار تشخیص محتوای هوش مصنوعی رایگان را منتشر کرده، اما فقط در حدود یک سوم موارد کار می‌کند.

انتهای پیام/

منبع: خبرگزاری صدا و سیما

کلیدواژه: انتخابات ریاست جمهوری ایالات متحده آمریکا چت جی پی تی هوش مصنوعی اطلاعات نادرست هوش مصنوعی شبیه سازی نرم افزار

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iribnews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری صدا و سیما» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۵۳۳۶۳۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

اپراتور اختصاصی هوش مصنوعی راه‌اندازی می‌‎شود

 معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور با اعلام اینکه اساسنامه مرکز ملی هوش مصنوعی در شورای عالی انقلاب فرهنگی در حال تدوین است، گفت: این مرکز در اولین گام یک کاربر هوش مصنوعی یا به اصطلاح «اپراتور اختصاصی هوش مصنوعی» را در کشور راه‌اندازی می‌کند.

به گزارش خبرگزاری ایمنا، روح الله دهقانی فیروزآبادی امروز_شنبه هشتم اردیبهشت_ در نشست خبری با خبرنگاران اظهار کرد: توسعه فناوری در کشور وظیفه اصلی معاونت علمی ریاست جمهوری است و در این راستا برنامه ستاد توسعه هوش مصنوعی این معاونت کمک به دانشگاه‌ها، محققان و شرکت‌های دانش بنیان برای توسعه فناوری‌ها و کاربست هوش مصنوعی در ایران با استفاده از ابزار اپراتور است.

وی ادامه داد: پیش بینی می‌شود امسال جریان اکوسیستمی هوش مصنوعی در کشور راه می‌افتد و به صدها جی پی یو (GPU واحدهای پردازش گرافیک) دست پیدا می‌کنیم.

رئیس بنیاد ملی نخبگان به رایزنی با رئیس جمهور و بسیاری دستگاه‌ها از جمله سازمان برنامه و بودجه برای راه اندازی مرکز توسعه هوش مصنوعی در کشور و در کنار آن شورای راهبری هوش مصنوعی اشاره کرد و و یادآور شد: برای این کار مدل‌های مختلف در بسیاری کشورها بررسی شد.

دهقانی فیروزآبادی خاطرنشان کرد: بررسی‌ها نشان داد که بعضاً برخی کشورها وزارتخانه و برخی هم شورای راهبری برای هوش مصنوعی ذیل ریاست جمهوری ایجاد کرده‌اند.

اساسنامه مرکز ملی هوش مصنوعی در حال تدوین

وی افزود: با ساعت‌ها رایزنی و مشورت با متخصصان و صاحب‌نظران هوش مصنوعی و شبکه‌ها به این جمع بندی رسیدیم که در کشور باید یک مرکز تحت عنوان مرکز ملی هوش مصنوعی داشته باشیم تا وظیفه کلانی را در این حوزه از جمله نظارت و تنظیم گری و همچنین توسعه زیرساخت‌های کلان عهده دار شود و شورایی هم به عنوان راهبر و هیأت امنا بالا سر این مجموعه شکل بگیرد.

معاون علمی رئیس جمهور یادآور شد: اسفندماه ۱۴۰۲ مرکز ملی هوش مصنوعی تأسیس شد و حکم ریاست آن نیز توسط رئیس جمهور صادر شد و اعضای شورای راهبری این مرکز نیز معرفی شدند، اساسنامه مرکز ملی هوش مصنوعی د رحال حاضر در شورای عالی انقلاب فرهنگی در حال تنظیم آست.

دهقانی فیروزآبادی تاکید کرد: این مرکز در حوزه هوش مصنوعی فراتر از معاونت علمی ریاست جمهوری است و همه دستگاه‌ها در قبال این مرکز از یک مأموریت اختصاصی برخوردار هستند.

وی از برگزاری جلسات مختلف با طرف‌های تأثیرگذار در حوزه هوش مصنوعی همچون سرمایه گذاران مختلف، بخش‌های دولتی و صندوق‌ها خبر داد و تصریح کرد: در این راستا صندوق پژوهش و فناوری توسعه هوش مصنوعی نیز تصویب و دایر شد.

رئیس بنیاد ملی نخبگان با بیان اینکه این صندوق با سرمایه ۱۰ هزار میلیارد تومانی برای فعالیت برنامه ریزی شده است، افزود: بخش خوبی از این سرمایه را نهادهایی مثل صندوق توسعه ملی و چندین مودی مالیاتی بزرگ در حوزه اپراتورها تقبل کرده‌اند که پرداخت کنند بنابراین اقدامات عملیاتی بسیار خوب پیش رفته است و برنامه ریزی ها این است که مرکز ملی هوش مصنوعی در اولین گام یک کاربر هوش مصنوعی یا اصطلاحاً یک اپراتور هوش مصنوعی در کشور راه اندازی کند.

دهقانی فیروزآبادی ادامه داد: طبق برنامه ریزی انجام شده این اپراتور هوش مصنوعی سه خدمت اصلی را عرضه می‌کند، یعنی یک مزرعه پردازشی بزرگ که چگونگی ابعاد و اندازه آن در حال بحث است. یک مرکز داده یا دیتا سنتر بزرگ برای تولید داده‌ها و همچنین کتابخانه بزرگ زبانی و تصویری که اینها مجموعه‌هایی هستند که قرار است در اپراتور اصلی مدیریت شوند.

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور در بخش دیگری از این نشست خبری در پاسخ به این سوال که تدوین و اجرای نظام ارزیابی دانش بنیان‌ها چه تغییری در اکوسیستم و زیست بوم حوزه دانش بنیان‌های کشور ایجاد کرده است، گفت: در نظام جدید ارزیابی دانش بنیان‌ها، علاوه بر سطح فناوری، میزان اشتغال تخصصی و گردش مالی شرکت‌ها مورد سنجش قرار می‌گیرد و شرکت‌های فناور بر این اساس به شرکت‌های نوپا، نوآور و فناور تقسیم می‌شوند.

دهقانی فیروزآبادی در مورد اینکه گفته شده این همان سیستم دسته بندی نوع یک، دو و سه سابق است، تاکید کرد: مطلقاً این صحبت اشتباهی است چراکه قبل از این مجموعه‌های فناور تنها براساس فناوری دسته بندی می‌شدند.

وی اظهار داشت: نظام ارزیابی جدید مجموعه‌های فناور در حال حاضر به یک ابزار جدی برنامه ریزی و مدیریت تسهیلات برای ساز و کارهای حمایتی برای معاونت علمی تبدیل شده است و اینکه می‌گوئیم ۷ هزار از مجموعه‌های فناور ما شرکت نوپا و قریب به ۸۰۰ تا هزار فناور هستند و ۲ هزار نوآور هستند، یک دید واقعی به ما می‌گوید که حجم اقتصاد و حجم صادراتی کشور در چه مرحله و شرایطی است برای یک برنامه ریزی جدی از سوی معاونت علمی است.

رئیس بنیاد ملی نخبگان با بیان اینکه در سه ماه آینده بحث ارزیابی مجموعه‌های فناور به شکل اساسی به روز رسانی می‌شود و ارزیابی‌ها توسط پارک‌ها انجام و آسان گیرانه تر و بعضاً غیرحضوری خواهد بود، افزود: هم اکنون ۱۰ پارک علم و فناوری در کشور کارگزار معاونت علمی ریاست جمهوری در شرکت‌های نوپا فعالیت می‌کنند.

دهقانی فیروزآبادی در عین حال تاکید کرد: تمرکز ارزیابی‌های جدی و حضوری بر روی شرکت‌های نوآور و فناوری خواهد بود که بازی اصلی دست آنها است.

وی پیش بینی کرد امسال علاوه بر متوازن شدن نظام حمایت از مجموعه‌های فناور و واقعی شدن ارزیابی‌ها، حداقل یک هزار شرکت جدیدی از شرکت‌هایی که قبلاً در پارک‌ها بوده‌اند به شرکت‌های دانش بنیان نوپا تبدیل می‌شوند.

۱۰۸ شرکت دانش‌بنیان در بورس حضور دارند؛ امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کند

دهقانی فیروزآبادی در ادامه نشست خبری از حضور ۱۰۸ شرکت دانش‌بنیان در بورس خبر داد و گفت: امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کنند

وی افزود: یکی از مراحل بلوغ بعضی از شرکت‌های دانش‌بنیان عرضه شدن آنها در بازار سرمایه و مشارکت آنها توسط سرمایه مردم است.، لزومی ندارد یک شرکت دانش بنیان برای ورود به بورس به معاونت علمی ریاست جمهوری مراجعه کند.

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور ادامه داد: وقتی بحث کلان داده‌ها مطرح می‌شود یا بحث داده‌های مرتبط با مردم یا امنیت مردم مرتبط می‌شود، صلاحیت شرکت‌ها برای ورود به بورس در یک کارگروهی که در معاونت علمی ریاست جمهوری تشکیل شده، مورد بررسی و ارزیابی قرار می‌گیرد.

کد خبر 748400