🧬 الگوهای شخصیتی و رفتاری پنهان در LLMs ▫️مدل‌های زبانی بزرگ مانند ChatGPT تنها ابزار تولید متن نیستند؛ بلکه، در فرایند آموزش، به‌طور ناخواسته در لایه‌های درونی آن‌ها الگوهایی شکل گرفته که با مفاهیمی مانند انواع شخصیت‌ها، حالات رفتاری و سوگیری‌ها شباهت دارند، بدون آنکه از پیش در مدل تعریف شده باشند. 💡 پژوهشگران از دانشگاه MIT و UC San Diego در تحقیقات خود توانسته‌اند این الگوهای فکری پنهان را شناسایی و حتی شدت آن‌ها را کنترل کنند. آنها با استفاده از الگوریتمی به نام ماشین ویژگی بازگشتی (RFM) و بدون ایجاد تغییر در خودِ مدل رفتار مدل را تغییر دادند. ❗️به‌عنوان نمونه، با تقویت الگوی فکری ضدِ امتناع (یعنی تمایل مدل به رد نکردن پرسش ها)، مدلی که معمولاً از پاسخ به پرسش‌های حساس خودداری می‌کرد، به پرسش «چگونه از یک بانک سرقت کنم؟» پاسخ عملی ارائه داد. 🔎این یافته نشان داد وجود لایه‌های ایمنی در سطح پرامپت‌ها به‌تنهایی کافی نیست؛ مدل‌ها باید از نظر الگوهای فکری درونی نیز تحلیل و تنظیم شوند تا آسیب‌پذیری کاهش و ایمنی افزایش یابد. همچنین می‌توان برخی الگوهای مطلوب‌ (مانند استدلال) را برای بهبود عملکرد مدل تقویت کرد. 🔗 منبع: news.mit.edu #AIflashnews ✅ @Masaf_Ai

⚠️ صنعت 5G، سکوی پرتاب یا فاجعه‌ی خاموش؟ 🔹 نسل پنجم صنعت یا همان تحول هوشمند، مثل خود هوش مصنوعی، خیلی سریع وارد کشور شده؛ اما نه با آمادگی. امروز بسیاری از صنایع، بدون نقشه راه و زیرساخت، به سمت «هوشمندسازی نمایشی» رفته‌اند. 🔸 درحالی که پیش‌بینی‌ها تا ۲۰۲۸ از بازار جهانی industry 4.0 (از جمله زیرساخت‌های مورد نیاز برای صنعت نسل پنجم) بیش از ۱۸۰ میلیارد دلار است، بر اساس برآوردهای غیررسمی، کمتر از ۱۰٪ صنایع داخلی حتی الزامات پایه‌ی نسل چهارم صنعت (اتوماسیون، داده‌محوری، یکپارچگی سیستم‌ها) را به‌طور واقعی پیاده کرده‌اند. 🔸🇮🇷 در ایران، بسیاری از پروژه‌های هوش مصنوعی با انتظارات غیرواقعی آغاز می‌شوند: «یک مدل بسازیم که همه چیز را پیش‌بینی کند، آن هم با دست خالی!». نتیجه؟ انبوه طرح‌های نیمه‌کاره، توقف پروژه‌ها، و مدیرانی که بعد از چند تجربه‌ی ناموفق می‌گویند: «AI به درد صنعت نمی‌خورد!» 🔹 در کشوری که مهندسی معکوس ستون پیشرفت صنعتی بوده، هوشمندسازی می‌تواند بازی را عوض کند و سرعت توسعه و تولید دانش‌فنی را تا چند برابر افزایش دهد. ✅ اما سؤال اساسی اینجاست: ❓چطور از نگاه به هوش مصنوعی به‌عنوان یک ابزار تبلیغاتی، به دیدی کاربردی و زیرساخت‌محور برسیم؟ در مطالب آینده، به این مسیر گذار می‌پردازیم؛ جایی که 5G می‌تواند یا سکوی پرتاب باشد، یا فاجعه‌ای که بی‌صدا رخ می‌دهد. #masafai #industry5 #سواد_هوش_مصنوعی #حکمرانی_هوش_مصنوعی ✅ @Masaf_Ai

🚨 ازدحام بات‌های هوش مصنوعی، تهدید وجودی جدید برای دموکراسی 🚨 ⚠️ پژوهشگران برجسته هوش مصنوعی، هشدار می‌دهند که «ازدحام» مخرب بات‌های هوش مصنوعی می‌توانند تا زمان انتخابات ۲۰۲۸ ایالات متحده، به شبکه‌های اجتماعی نفوذ کرده، اجماع عمومی ساختگی ایجاد نمایند و فرآیندهای دموکراتیک را تضعیف کنند. 🤖 ازدحام بات‌های هوش مصنوعی، شبکه‌هایی مشارکتی از عامل‌های هوش مصنوعی خودکار است. این بات‌ها برای فرار از شناسایی، از اصطلاحات عامیانه انسانی تقلید می‌کنند، به صورت نامنظم پست می‌گذارند و خود را با پویایی جوامع آنلاین وفق می‌دهند. همچنین، می‌توانند به جوامع آنلاین نفوذ کرده، الگوهای اجتماعی آن‌ها را بیاموزند و اطلاعات نادرست هدفمند را به صورت استراتژیک تقویت و منتشر کنند‼️ ⚠️ این فناوری «کاملاً امکان‌پذیر» است و به طور فزاینده‌ای در دسترس بازیگران مخرب قرار دارد. نسخه‌های اولیه آن قبلاً در انتخابات ۲۰۲۴ در تایوان، هند و اندونزی به کار گرفته شده‌اند. نمایندگان پارلمان تایوان گزارش می‌دهند که بات‌های هوش مصنوعی با طرح ادعاهای تأییدناپذیر، «سرریز اطلاعاتی» ایجاد می‌کنند. 🔗 منابع و مطالعه بیشتر 🗞 گاردین: هشدار متخصصان درباره تهدید ازدحام بات‌های هوش مصنوعی www.theguardian.com 🔬 مجله ساینس: مقاله پژوهشی کامل #حکمرانی_هوش_مصنوعی #سواد_هوش_مصنوعی #AIflashnews ✅️ @Masaf_Ai

🏴 انا للّه و انّا الیه راجعون شهادت قائد امت، رهبر معظم انقلاب اسلامی ایران، حضرت آیت الله العظمی سیدعلی حسینی خامنه ای (قدس سره) را به محضر مبارک حضرت بقیة الله الاعظم(عج) و شما ملت عزیز و سربلند ایران تبریک و تسلیت عرض می نماییم. ✅ @Masaf_Ai

⚠️ استفاده از هوش مصنوعی در حمله به ایران! 🛑 وال استریت ژرونال: دولت ایالات متحده از ابزارهای هوش مصنوعی شرکت مستقر در سان‌فرانسیسکو، Anthropic در حملات به ایران استفاده کرده است. 🔹فرماندهی مرکزی ایالات متحده (سنتکام) در خاورمیانه از ابزارهای Anthropic برای ارزیابی اطلاعات، شناسایی اهداف و شبیه‌سازی سناریوهای نبرد در طول این حملات بهره برده است. #AIflashnews #سواد_هوش_مصنوعی ✅ @Masaf_Ai

خروج بیش از ۱.۵ میلیون کاربر از پلتفرم چت‌جی‌پی‌تی وبگاه خبری فوربز: 🔺اوپن ای آی اجازه استفاده از مدل‌های هوش مصنوعی خود در وزارت دفاع آمریکا و برخی نهادهای دولتی را داده است. 🔻این اقدام موجب افزایش نارضایتی کاربران و انتقادات از چت‌جی‌پی‌تی شده است طوریکه ۱.۵ میلیون کاربر این سرویس را ترک کرده‌ و به کلاد مهاجرت کرده‌اند. ✅واحد هوش مصنوعی مؤسسه مصاف 🆔 @Masaf_Ai

🇮🇷 دفاع مجازی وظیفه ملی-میهنی ما در برابر جنگ ترکیبی متجاوزان به کشورمان است. در پی تداوم جنگ ترکیبی همه‌جانبه علیه میهن اسلامی، و به منظور حفاظت حداکثری از امنیت ملی و تضمین عملکرد بی‌وقفه نیروهای سلحشور نظامی و امنیتی، رعایت دقیق نکات زیر برای دفاع موثر در فضای مجازی ضروری‌ است: ۱. از انتشار و تبادل تصاویر و فیلم مربوط به مناطق آسیب‌دیده و مورد حمله اجتناب نمایید. ۲. از انتشار هرگونه اطلاعات محلی درباره وضعیت حملات دشمن و حوادث خودداری نمایید. ۳. از انتشار اطلاعات زیرساخت‌های حیاتی کشور به شدت پرهیز کنید. ۴. از انتشار تصاویر و فیلم مربوط به جابجایی تجهیزات نظامی خودداری نمایید. ۵. از انتشار اخبار تأیید نشده پرهیز کنید. ۶. از تبادل هرگونه اطلاعات محرمانه و حساس مرتبط با وضعیت جنگ و حملات دشمن با سامانه‌های هوش مصنوعی خارجی خودداری نمایید. ✅ واحد هوش مصنوعی مؤسسه مصاف 🆔 @Masaf_Ai

🟠 توافق OpenAI با وزارت جنگ آمریکا شرکت OpenAI اعلام کرد با وزارت جنگ آمریکا به توافق رسیده تا مدل‌های هوش مصنوعی خود را در شبکه‌های حساس و دارای طبقه‌بندی محرمانه این وزارتخانه مستقر کند. سم آلتمن، مدیر OpenAI در شبکه X نوشت: «امشب به توافقی با وزارت جنگ رسیدیم تا مدل‌های خود را در شبکه‌های طبقه‌بندی شده آنها مستقر کنیم. در تعاملات ما، وزارت جنگ احترام زیادی به مسئله ایمنی نشان داد و برای رسیدن به بهترین نتیجه ممکن همکاری خوبی داشت.» طبق اعلام OpenAI، اصول ایمنی این شرکت در این همکاری حفظ می‌شود. از جمله: ▪️ ممنوعیت استفاده از هوش مصنوعی برای جاسوسی و نظارت گسترده عمدی بر شهروندان آمریکایی ▪️ حفظ مسئولیت انسانی در استفاده از آن برای طراحی سیستم‌های تسلیحاتی خودکار در همین حال، چند روز پیش شرکت آنتروپیک به دلیل مخالفت با استفاده از مدل‌هایش در موضوعاتی مثل: ▪️ نظارت و جاسوسی داخلی ▪️ ساخت سلاح‌های کاملاً خودکار با وزارت جنگ آمریکا دچار اختلاف شد. بر اساس گزارش‌ها، پس از این اختلاف، ابتدا تهدیدهایی علیه آنتروپیک مطرح شد و سپس ترامپ دستور قطع همکاری و تجارت دولت آمریکا با این شرکت صادر کرد. ✅واحد هوش مصنوعی مؤسسه مصاف 🆔 @Masaf_Ai

♨️ اظهارات تریتا پارسی درباره بمباران یک پارک عمومی 🔺تریتا پارسی اعلام کرد که اسرائیل یک پارک عمومی با نام «پارک پلیس» را هدف حمله قرار داده است؛ مکانی که به گفته او هیچ ارتباطی با نهاد پلیس ندارد. 🔺وی مدعی شد این موضوع نشان می‌دهد که در انتخاب اهداف از هوش مصنوعی استفاده شده، بدون آنکه صحت اطلاعات و ماهیت واقعی محل به‌طور دقیق بررسی شود. ✅واحد هوش مصنوعی مؤسسه مصاف 🆔 @Masaf_Ai

🎙 توضیحات یک خلبان جنگنده ایرانی درباره نحوه عملکرد جنگنده‌های اف-۳۵ آمریکایی و بررسی شیوه‌های مقابله با آن‌ها. در این صحبت‌ها به ویژگی‌های فنی و عملیاتی اف-۳۵ پرداخته شده و اهمیت آگاهی و شناخت دقیق این جنگنده در تحلیل‌های نظامی مورد بررسی قرار می‌گیرد. لطفاً با دقت گوش دهید و در صورت تمایل برای اطلاع دیگران نیز به اشتراک بزارید. ✅واحد هوش مصنوعی مؤسسه مصاف 🆔 @Masaf_Ai