پس از انتشار ویدیوهای جعلی از هیلاری کلینتون و جو بایدن، نگرانی‌ها درباره توسعه فناوری‌های هوش مصنوعی و استفاده از آن در کارزارهای انتخاباتی افزایش یافته است.
به‌تازگی ویدیویی غافلگیرکننده از هیلاری کلینتون، نامزد پیشین دموکرات‌ها در انتخابات ریاست جمهوری آمریکا، در رسانه‌های اجتماعی منتشر شده است. ویدیویی که در آن وزیر خارجه باراک اوباما و همسر بیل کلینتون، در حمایت از «ران دسنتیس»، نامزد جمهوری‌خواهان، سخنرانی می‌کند و می‌گوید که «دسنتیس همانی است که ایالات متحده به او نیاز دارد.»
هرچند ساعتی پس از انتشار این ویدیو مشخص شد که تنها یک «دیپ فیک فوق‌العاده تصویری است»، اما بیشتر از یک سال مانده به انتخابات ریاست‌جمهوری ایالات متحده به نظر می‌رسد فناوری‌های هوش مصنوعی پیشرفته می‌توانند نقش مهمی در صندوق آرا بازی کنند.
به گزارش رویترز، ویدیوی هیلاری کلینتون، یکی از هزاران دیپ فیک (جعلعمیق) است که در هفته‌های اخیر برای تبلیغ نامزدهای جمهوری‌خواه انتخابات ریاست‌جمهوری در فضای مجازی از طریق فناوری‌های هوش مصنوعی پیشرفته ساخته شده‌اند. رویترز می‌گوید کارشناسان فناوری‌های پیشرفته معتقدند که ساخت «دیپ فیک‌ها ارزان‌تر از گذشته شده است، به همین دلیل افراد بیشتری به این فناوری دسترسی دارند.»
به این ترتیب، انتظار می‌رود در انتخابات سال ۲۰۲۴ بیش از همیشه اخبار و ویدیوهای جعلی منتشر شود. رویترز با دارل وست، کارشناس ارشد موسسه بروکینگز، دراین‌باره گفت‌وگو کرده است. او می‌گوید: «تشخیص خبر واقعی از جعلی برای رای‌دهندگان ازاین‌پس بسیار دشوار خواهد بود. تصور کنید که به‌عنوان مثال حامیان دونالد ترامپ تا چه اندازه می‌توانند از این فناوری بهره ببرند.»
آزا راسکین، یکی از بنیان‌گذاران مرکز فناوری انسانی -سازمانی غیرانتفاعی که تاثیر فناوری بر جامعه را مطالعه می‌کند- نیز به خبرگزاری رویترز می‌گوید که «ابزارهایی مانند دیپ فیک می‌تواند بزرگ‌ترین سلاح برای تولیدات جعلی باشند.»
به‌عنوان مثال، دونالد ترامپ ماه گذشته در پلتفرم خود، «تروث سوشیال»، ویدیوی جعل عمیق از مجری معروف شبکه «سی‌ان‌ان»، اندرسون کوپر، منتشر کرد. سی‌ان‌ان بلافاصله این ویدیو را جعلی خواند، اما سازمان‌دهندگان کارزار انتخاباتی دونالد ترامپ حاضر نشدند دراین‌باره واکنشی نشان دهند.
پلتفرم‌های بزرگ رسانه‌های اجتماعی مانند فیس‌بوک، توییتر و یوتیوب تلاش‌هایی برای ممنوع کردن و حذف ویدیوهای جعلی انجام داده‌اند. بااین‌حال، این ویدیوهای جعلی و اخبار نادرست همچنان بیشترین تاثیر را بر انتخابات آمریکا دارد.
طبق گفته «دیپ مدیا»، شرکتی که بر روی ابزارهای منسوب به هوش مصنوعی و ویدیوهای جعلی کار می‌کند، در سال جدید میلادی تعداد دیپ فیک‌های تصویری سه برابر و تعداد دیپ فیک‌های صوتی هشت برابر مدت‌زمان مشابه در سال ۲۰۲۲ میلادی است. این رسانه تخمین می‌زند که درمجموع، در سال ۲۰۲۳ حدود ۵۰۰ هزار جعل عمیق تصویری و صوتی در رسانه‌های اجتماعی در سراسر جهان به اشتراک گذاشته شود.
یکی از دلایل آن، ارزان شدن ساخت و تولید چنین محتوایی است. در سال گذشته یک دیپ فیک (جعل عمیق) صوتی هزاران دلار هزینه داشت، در حالی که در سال جاری میلادی به‌راحتی با چند دلار می‌توان یک جعل عمیق صوتی ساخت.
در حالی که فناوری‌های هوش مصنوعی به‌سرعت در جهان در حال گسترش است، بسیاری از کارشناسان و دانشمندان نگران آینده بشر در کنار گسترش «هوش مصنوعی»اند. یکی از آن‌ها پدرخوانده و بنیانگذار هوش مصنوعی، جفری هینتون، است. او در ماه مه گذشته در گفت‌وگو با روزنامه نیویورک‌تایمز اعلام کرد برخلاف گذشته نگران است که فناوری‌های هوش مصنوعی از هوش بشری پیشی بگیرند.
او در این مصاحبه از دولت‌های دموکراتیک جهان خواست محدودیت‌های زیادی برای هوش مصنوعی در نظر بگیرند و نگذارند این فناوری‌ها به دست رهبران کشورهای غیردموکراتیک جهان بیفتد.