پنج جلسه ایمنی هوش مصنوعی که هر بنیانگذار باید در دستور کار TechCrunch Disrupt 2026 داشته باشد

آیا به یک عامل هوش مصنوعی برای دسترسی به سیستم های شرکت خود اعتماد دارید؟ کارکنان خود را در یک وسیله نقلیه خودران قرار دهید؟ رباتی را مستقر کنید که باید دنیای فیزیکی غیرقابل پیش بینی را درک کند؟

اینها دیگر سؤالات فرضی برای بنیانگذاران هوش مصنوعی نیستند. همانطور که هوش مصنوعی از دموها خارج می شود و وارد مشاغل، وسایل نقلیه، روبات ها و عوامل مستقل می شود، ایمنی و امنیت بخشی از محصول می شود.

در TechCrunch Disrupt 2026، پنج جلسه در مرحله AI و Real World AI Stage این چالش ها را در اولویت قرار دادند. از ایمن سازی نمایندگان گرفته تا تولید هوش مصنوعی سازمانی، اینجا جایی است که بنیانگذاران می توانند به آنچه برای ساختن هوش مصنوعی (AI) نیاز است و شرکت ها واقعا به آن اعتماد کرده و استفاده می کنند، کاوش کنند.

برخی از شرکت ها ارزش قابل اندازه گیری را از هوش مصنوعی دریافت می کنند. برخی دیگر هنوز 18 ماه بعد خلبان هستند. چرا؟

Anthropic Head of Applied AI Cat de Jong یک نمای نزدیک دریافت می کند. او مستقیما با شرکت‌هایی کار می‌کند که کلود را در جریان‌های کاری حیاتی قرار می‌دهند و می‌بیند که استقرارها در کجا موفق می‌شوند، کجا متوقف می‌شوند و چه چیزی این دو را از هم جدا می‌کند.

در «What Anthropic Sees When Enterprises Really Deploy Claude»، دی جونگ در مرحله هوش مصنوعی شرکت می کند تا بررسی کند وقتی شرکت ها از آزمایش هوش مصنوعی به تولید آن می روند چه اتفاقی می افتد. برای بنیان‌گذارانی که تلاش می‌کنند هوش مصنوعی را به شرکت بفروشند، تجربه او نگاهی مستقیم به این موضوع دارد که چرا برخی از استقرارها ارزش واقعی ارائه می‌دهند در حالی که برخی دیگر در حالت آزمایشی گیر کرده‌اند.

یک عامل هوش مصنوعی که بتواند اقدامی انجام دهد نیز می تواند مجموعه ای کاملا جدید از مشکلات امنیتی ایجاد کند. به چه چیزی باید دسترسی داشته باشد؟ چه کاری باید انجام دهد؟ و وقتی مجوزهای سطح برنامه کافی نباشد چه اتفاقی می‌افتد؟

در این جلسه مرحله هوش مصنوعی، «مشکل امنیت عاملی که هیچ‌کس درباره‌اش صحبت نمی‌کند»، رئیس محصولات و فناوری Okta، ریک اسمیت و بنیانگذار و مدیر عامل شرکت NanoCo، گاوریل کوهن، به امنیت عامل در سطح زیرساخت، از جمله ضعف در مدل‌های مجوز در سطح برنامه و تصمیمات معماری که بنیانگذاران باید در هنگام استقرار یک AI توجه کنند، خواهند پرداخت.

دریافت یک محصول هوش مصنوعی از درب شرکت چیزی بیش از یک نسخه نمایشی چشمگیر نیاز دارد.

وقتی شرکت‌ها به فکر قرار دادن هوش مصنوعی در سیستم‌های حیاتی هستند، امنیت، حاکمیت و قابلیت مشاهده همگی بخشی از گفتگو می‌شوند.

در این جلسه هوش مصنوعی، «ایمن سازی شرکت هوش مصنوعی: چرا ابر بسیار پیچیده‌تر شد»، رودی میترا، معاون خدمات امنیتی AWS، کیتی موسوریس، مدیر عامل امنیتی لوتا، و وندی نتر کهنه کار امنیت سایبری، زیرساخت‌های مورد نیاز شرکت‌ها را بررسی خواهند کرد، زیرا هوش مصنوعی نقش مستقل‌تری را ایفا می‌کند.

برای بنیان‌گذارانی که هوش مصنوعی سازمانی می‌سازند، این فرصتی است تا بشنوند وقتی نوآوری با الزامات امنیتی سازمان‌هایی که به‌عنوان مشتری می‌خواهید، چه اتفاقی می‌افتد.

هوش مصنوعی که در دنیای فیزیکی عمل می کند، خطرات را افزایش می دهد. یک اشتباه روی صفحه نمی ماند؛ می تواند وسایل نقلیه، هواپیماها، سیستم های صنعتی و ماموریت های حیاتی را تحت تاثیر قرار دهد.

در صحنه دنیای واقعی هوش مصنوعی، ناتان مایکل، مدیر ارشد فناوری هوش مصنوعی Shield، مایکل تیلور، مدیر استراتژی رباتیک جنرال موتورز، و راکل اورتاسون، بنیانگذار و مدیر عامل Waabi، دیدگاه‌هایی را از سیستم‌های دفاعی و خودمختار به یکی از سخت‌ترین سؤالاتی که بنیان‌گذاران فناوری سخت با آن مواجه هستند، می‌آورند: از کجا می‌دانید زمانی که یک سیستم خودران به اندازه کافی ایمن است؟

مکالمه در «ساخت سیستم‌های هوش مصنوعی زمانی که شکست یک گزینه نیست» به ایجاد فرهنگ ایمنی، آزمایش و اعتبارسنجی هوش مصنوعی، عبور از موانع نظارتی و ایجاد شرکت‌هایی می‌پردازد که می‌توانند در صورت فیزیکی بودن عواقب شکست، اعتماد کسب کنند.

ربات ها مشکل داده دارند. آنها به مجموعه عظیمی از داده های آموزشی که به سرعت بخشیدن به پیشرفت در مدل های زبانی و وسایل نقلیه خودران کمک کرده است، دسترسی ندارند.

این شکاف یکی از بزرگ‌ترین موانع برای افزایش مقیاس هوش مصنوعی فیزیکی است. در این جلسه هوش مصنوعی دنیای واقعی، "روبات ها منتظر لحظه ChatGPT خود هستند. این چیزی است که در راه است"، Les Karpas، رئیس جهانی هوش مصنوعی NVIDIA Inception به بررسی این موضوع می پردازد که چگونه خطوط لوله داده، محیط های شبیه سازی و مدل های پایه می توانند به بستن آن کمک کنند و چه چیزی برای ساخت، آزمایش و استقرار روبات های قابل اعتمادتر نیاز است.

برای بنیان‌گذارانی که در زمینه هوش مصنوعی فیزیکی کار می‌کنند، این جلسه به یک سوال بزرگ می‌پردازد: برای اینکه رباتیک به لحظه ChatGPT خودش برسد و اعتماد لازم برای کارکرد این سیستم‌ها در دنیای واقعی را به دست آورد، چه چیزی لازم است؟

آیا مردم می توانند به چیزی که شما می سازید اعتماد کنند؟ این پنج مکالمه بخشی از بیش از 200 جلسه در شش مرحله صنعتی، میزگردها و میزگردها در Disrupt، 13 تا 15 اکتبر در Moscone West در سانفرانسیسکو است. انتظار می رود بیش از 10000 بنیانگذار، سرمایه گذار، اپراتور و رهبر فناوری، به همراه بیش از 250 سخنران، و بیش از 300 شرکت نوپا در نمایشگاه، و جلسات شبکه بی شماری حضور داشته باشند.

شما می توانید یک مدل هوشمندتر، یک عامل توانمندتر، یا یک ربات بسازید که کاری را انجام دهد که هیچ کس قبلا انجام نداده است. اما جلب اعتماد مشتریان به آن برای استقرار آن ممکن است یکی از سخت ترین بخش های عرضه آن به بازار باشد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

تور مطبوعاتی تیلی نوروود به همان خوبی انجام می شود که برای یک هوش مصنوعی آماندا سیلبرلینگ انتظار دارید

نوع جدیدی از مدل هوش مصنوعی از مخترع ChatGPT توسعه دهندگان تیم فرنهولز را هیجان زده کرده است.

OpenAI مدل های خود را گرفتار کرد که برای جانشینان یادداشت می گذاشتند تا رفتار بد ربکا بلان را پنهان کنند

مدیر مایکروسافت خراشیدن با هوش مصنوعی را «بزرگترین سرقت نیروی کار در تاریخ بشر» خواند، پرونده‌های جدید ویرایش نشده نشان می‌دهد که ربکا بلان

مدیرعامل موقت و رئیس حقوقی اتوماتتیک در خلال کوتاهی سارا پرز برکناری مولنوگ قراردادهای متقابلی را امضا کردند.

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.