هوش مصنوعی آبان ۱۴۰۵

شرکت بلاک به مدیریت جک دورسی از یک مدل صوتی تازه رونمایی کرده است. به گزارش زومیت، این مدل می‌تواند مکالمه‌های طبیعی انسانی را شبیه‌سازی کند و صدای آن تقریباً از صدای انسان قابل تشخیص نیست. تک‌کرانچ هم به نقل از بلاک گزارش داده است که این مدل روی یک مک‌بوک M4 Max و به‌صورت محلی اجرا می‌شود.

نکته‌ی مهم برای مدیران، همین بخش دوم است. ابزارهای شبیه‌سازی صدا پیش‌تر هم وجود داشتند، اما وقتی مدلی با این کیفیت بدون نیاز به مرکز داده و فقط روی یک لپ‌تاپ کار کند، هزینه و دانش لازم برای سوءاستفاده از آن پایین می‌آید. به بیان ساده، جعل صدای باورپذیر دیگر کار گروه‌های پیشرفته و پرهزینه نیست.

سناریوی خطر آشناست. کارمند واحد مالی تماسی از «مدیرعامل» دریافت می‌کند که با لحنی عجول از او می‌خواهد مبلغی را فوری به حساب یک تأمین‌کننده‌ی جدید واریز کند. حالت دیگر، پیام صوتی‌ای از «مدیر مالی» است که فهرست مشتریان یا اطلاعات حساب‌ها را می‌خواهد. این حمله‌ها بیش از آنکه به فناوری تکیه کنند، از دو اهرم قدیمی استفاده می‌کنند: فوریت و جایگاه سازمانی درخواست‌کننده.

سازمان‌های ایرانی در برابر این تهدید آسیب‌پذیرترند. در بسیاری از شرکت‌ها، بخش بزرگی از تأییدها با یک تماس تلفنی یا پیام صوتی در واتس‌اپ و تلگرام انجام می‌شود، آن هم اغلب از حساب‌های شخصی و خارج از سامانه‌های رسمی سازمان. از سوی دیگر، نمونه‌ی صدای مدیران در مصاحبه‌ها، وبینارها، شبکه‌های اجتماعی و حتی گروه‌های کاری به‌راحتی در دسترس است. وقتی «شنیدن صدای مدیر» خودش مجوز اقدام باشد، جعل همان صدا کافی است.

نخستین اصلاح، تأیید دوکاناله است. هر دستور مالی یا درخواست اطلاعات حساس که از راه تماس یا پیام صوتی می‌رسد، باید از یک کانال مستقل دوم هم تأیید شود. برای مثال، کارمند با شماره‌ای که در دفترچه‌ی داخلی سازمان ثبت شده تماس بگیرد، نه با شماره‌ای که با او تماس گرفته است. راه دیگر، ثبت درخواست مکتوب در سامانه‌ی رسمی یا ایمیل سازمانی است. برای مبالغ بالاتر از یک سقف مشخص هم تأیید دو نفر را الزامی کنید.

اصلاح دوم، رمز شفاهی است. مدیران ارشد و کارکنان واحد مالی می‌توانند یک عبارت یا پرسش رمز را حضوری با هم توافق کنند، آن را هرگز در پیام‌رسان‌ها ذخیره نکنند و به‌صورت دوره‌ای تغییر دهند. در کنار آن، این قاعده را صریح اعلام کنید که فوریت هیچ دستوری مجوز دورزدن رویه نیست. مدیرعامل باید شخصاً تعهد بدهد که کارمندی را که برای راستی‌آزمایی، اجرای دستور او را چند دقیقه به تأخیر انداخته، سرزنش نمی‌کند.

اصلاح سوم، آموزش کارکنان است. چند جلسه‌ی کوتاه و سناریومحور، همراه با تماس‌های شبیه‌سازی‌شده، از یک بخشنامه‌ی طولانی مؤثرتر است. کارکنان باید نشانه‌های هشدار را بشناسند: فوریت غیرعادی، درخواست محرمانه‌نگه‌داشتن موضوع، شماره‌حساب جدید و اصرار بر دورزدن روال معمول. همچنین باید بدانند که صدای آشنا به‌تنهایی دیگر دلیل اعتبار نیست.

پیشنهاد ما این است که از یک قدم کوچک شروع کنید. یک رویه‌ی یک‌صفحه‌ای برای تأیید دستورهای صوتی بنویسید، آن را با واحد مالی و دستیاران مدیران تمرین کنید و هر چند ماه یک بار بازبینی‌اش کنید. فناوری جعل صدا سریع پیش می‌رود، اما یک فرایند ساده و جاافتاده هنوز یکی از مؤثرترین سپرهای سازمان است.

شروع همکاری