چرا سخت افزار هوش مصنوعی از همان ابتدا به حفظ حریم خصوصی نیاز دارد؟

به نظر می رسد هر دسته فناوری مصرف کننده جدید چرخه مشابهی را طی می کند. شرکت‌ها برای گسترش آنچه که یک محصول می‌تواند انجام دهد رقابت می‌کنند و دستگاه‌هایی را با هرچه بیشتر ویژگی‌ها، حسگرها و قابلیت‌ها بسته‌بندی می‌کنند تا برجسته شوند.

پرسش‌های مربوط به حریم خصوصی معمولا زمانی فوری‌تر می‌شوند که آن محصولات از قبل در دست مردم باشد و بازخورد مشتریان، ناظران صنعت و عموم مردم در مورد اینکه واقعا چه حسی از فناوری برای استفاده و زندگی در اطراف دارد، شروع می‌شود.

ما نسخه‌هایی از این را با رسانه‌های اجتماعی، تلفن‌های هوشمند و دستگاه‌های خانه هوشمند دیدیم و با ورود هوش مصنوعی به نسل جدیدی از دستگاه‌هایی که می‌توانند جهان اطراف ما را ببینند، بشنوند، تفسیر کنند و به آن پاسخ دهند، دوباره آن را مشاهده می‌کنیم.

من فکر می‌کنم که این توالی عقب‌افتاده است زیرا حریم خصوصی را نمی‌توان به سادگی پس از راه‌اندازی در یک محصول وصله کرد، در حالی که بسیاری از تصمیم‌هایی که پیامدهای حریم خصوصی آن را شکل می‌دهند، قبلا در طول توسعه گرفته شده‌اند.

انتخاب‌های مربوط به سخت‌افزار، معماری، جمع‌آوری و پردازش داده‌ها، و حتی مقدار اطلاعاتی که یک دستگاه واقعا برای انجام کارش نیاز دارد، باید از همان ابتدا در کنار سایر تصمیمات اساسی که نحوه ساخت محصول را تعیین می‌کنند، در نظر گرفت.

تیم های محصول از همان ابتدا عادت دارند عمر باتری، وزن، هزینه و عملکرد را به عنوان محدودیت های طراحی در نظر بگیرند. باید با حریم خصوصی نیز به همان شیوه برخورد شود، به خصوص که هوش مصنوعی دستگاه‌های مصرف‌کننده را قادر می‌سازد اطلاعات بیشتری را نسبت به قبل جمع‌آوری و تفسیر کنند.

عینک های هوشمند معامله را قابل مشاهده می کنند

عینک‌های هوشمند یکی از واضح‌ترین نمونه‌ها را ارائه می‌دهند، زیرا بسیاری از صنعت در حال ساخت این دسته‌بندی حول دوربین‌ها هستند. منطق پشت این رویکرد قابل درک است: زمینه بصری بیشتر می تواند هوش مصنوعی را توانمندتر کند و به سیستم اجازه می دهد آنچه را که پوشنده می بیند درک کند و بر اساس آن پاسخ دهد.

اما دوربین‌ها یکی از سخت‌ترین مشکلات اعتماد این دسته را نیز معرفی می‌کنند، زیرا عینک‌ها به صورت مجزا استفاده نمی‌شوند. آنها از طریق جلسات، غذاها، رفت و آمدها و گفتگوها، اغلب در مقابل افرادی که هرگز تصمیم نگرفته اند با فناوری تعامل داشته باشند، روی صورت دیگران می نشینند.

این یک ملاحظات طراحی را ایجاد می کند که هنگام ارزیابی یک محصول صرفا از دیدگاه کاربر به راحتی نادیده گرفته می شود. شخصی که دستگاهی را می پوشد ممکن است بفهمد که آیا در حال ضبط است، چه اطلاعاتی در حال پردازش است یا چرا یک حسگر فعال است، در حالی که همه اطرافیان آن شخص زمینه بسیار کمتری دارند. تیم‌های محصول همچنین باید بیش از تجربه‌ای که قصد ایجاد آن را دارند در نظر بگیرند، زیرا زمانی که دستگاه می‌تواند اطلاعاتی در مورد افراد اطراف خود بگیرد، می‌توان از آن قابلیت به روش‌هایی استفاده کرد که طراحان هرگز در نظر نداشتند.

یک چراغ وضعیت می‌تواند نشان‌دهنده فعال بودن دوربین باشد، و یک خط‌مشی حفظ حریم خصوصی می‌تواند نحوه مدیریت اطلاعات گرفته‌شده را توضیح دهد، اما هیچ‌یک از این موارد ابهام ایجاد شده توسط حسگر را کاملا برطرف نمی‌کند. در آن مرحله، مهم ترین تصمیم برای حفظ حریم خصوصی قبلا در سخت افزار گرفته شده است.

هر مشکل حریم خصوصی را نمی توان در پایین دست با خط مشی یا نرم افزار بهتر حل کرد، به ویژه زمانی که یک محصول به یک حسگر خاص وابسته است، به طور مداوم اطلاعات را به ابر ارسال می کند، یا داده ها را به طور پیش فرض حفظ می کند، زیرا تیم های حریم خصوصی محدودیت هایی را که خیلی زودتر در فرآیند توسعه ایجاد شده اند به ارث می برند.

با آنچه محصول واقعا باید بداند شروع کنید

سوال شروع بهتر این نیست که یک دستگاه چقدر اطلاعات می تواند جمع آوری کند، بلکه این است که چقدر اطلاعات باید جمع آوری کند تا ارزش اصلی خود را ارائه دهد.

پرسیدن این سوال می تواند تیم های محصول را به تصمیم گیری های بسیار متفاوت در مورد نیازهای یک دستگاه سوق دهد. آیا یک دستگاه هوش مصنوعی باید هر چیزی را که در مقابل کاربر قرار دارد شناسایی کند یا صرفا به زمینه کافی برای ارائه مسیرها نیاز دارد؟ آیا اطلاعات برای مفید بودن باید از دستگاه خارج شود یا ممکن است برخی پردازش ها به صورت محلی انجام شود؟ آیا پس از تکمیل یک کار، داده ها باید حفظ شوند یا می توان آنها را حذف کرد؟ آیا حسگر باید به طور مداوم فعال بماند یا فقط زمانی که کاربر به طور صریح آن را درخواست کند؟

این انتخاب‌ها ممکن است قابلیت‌های خاصی را در کوتاه‌مدت محدود کنند، به همین دلیل است که حریم خصوصی با طراحی می‌تواند ناراحت‌کننده باشد. توسعه محصول معمولا به افزایش قابلیت پاداش می‌دهد، در حالی که محدودیت می‌تواند مانند انتخاب برای انجام کارهای کمتر باشد.

فناوری مصرف‌کننده در حال حاضر به تیم‌های محصول نیاز دارد که دائما معاوضه داشته باشند، خواه این به معنای پذیرش باتری‌های کوچک‌تر برای سبک‌تر کردن دستگاه‌ها، محدود کردن پردازش برای مدیریت گرما، یا حذف ویژگی‌هایی باشد که یک رابط را بیش از حد پیچیده می‌کند.

حریم خصوصی مستحق همان نظم و انضباط است زیرا تواناترین نسخه یک محصول لزوما نسخه ای نیست که مردم با آوردن آن به زندگی روزمره خود احساس راحتی کنند.

حفظ حریم خصوصی نیز یک تجربه محصول است

بحث‌های مربوط به حریم خصوصی اغلب به‌عنوان مکالمه‌های قانونی یا انطباق تلقی می‌شوند، اما برای فناوری مصرف‌کننده، آن‌ها سوالات تجربه محصول نیز هستند. دستگاهی که از نظر فنی با هر الزامی مطابقت داشته باشد، همچنان می تواند افراد را ناراحت کند. این ناراحتی به ویژه با فناوری طراحی شده برای پوشیدن در طول روز یا تعبیه در خانه و محیط اطراف مهم می شود.

این جایی است که فکر می کنم نسل بعدی سخت افزار هوش مصنوعی آزمایش خواهد شد. همانطور که هوش از تلفن و لپ‌تاپ فراتر می‌رود، تیم‌های محصول به دوربین‌ها، میکروفون‌ها، حسگرها و مدل‌هایی که می‌توانند دنیای فیزیکی را در زمان واقعی تفسیر کنند، دسترسی خواهند داشت. وسوسه استفاده از همه آنها صرفا به این دلیل است که قابلیت وجود دارد، زمانی که رشته طراحی سخت‌تر این است که بدانیم کدام قابلیت‌ها واقعا تجربه را بهبود می‌بخشند و هنگامی که اضافه کردن موارد بیشتر باعث ایجاد معاوضه‌ای می‌شود که ارزش ایجاد کردن ندارد.

بنابراین برای هر کسی که در این دسته‌بندی می‌سازد، حریم خصوصی باید از همان مکالماتی شروع شود که تیم‌ها تصمیم می‌گیرند محصول به کدام حسگرها نیاز دارد، محاسبات در کجا اتفاق می‌افتد، چه اطلاعاتی ذخیره می‌شود، و کدام قابلیت‌ها به اندازه کافی ضروری هستند تا مبادلاتی را که معرفی می‌کنند توجیه کنند. منتظر ماندن تا زمان عرضه برای پاسخ به این سؤالات به این معنی است که بسیاری از مهم ترین پاسخ ها قبلا در محصول قفل شده اند.

مخصوصا برای فناوری پوشیدنی، این رشته در نهایت به کاربردهای روزمره بازمی گردد. یک دستگاه می‌تواند قابلیت‌های فنی خارق‌العاده‌ای داشته باشد، اما اگر افراد از پوشیدن آن در طول روز کاری، نشستن در کنار دوستان در هنگام شام، یا آوردن آن به لحظات معمولی که قرار است مفید باشد احساس ناراحتی کنند، این قابلیت‌ها اهمیت بسیار کمتری دارند.

محصولاتی که محاسبات پوشیدنی را به بخشی از زندگی روزمره تبدیل می کنند، باید به اندازه کافی مفید باشند تا بتوانند در تمام طول روز بدون اینکه از پوشنده یا اطرافیانشان بخواهیم دائما در مورد فناوری روی چهره خود فکر کنند، استفاده کنند.

اعتماد باید بخشی از معماری باشد

عینک های هوشمند هنوز آنقدر زود هستند که بسیاری از این کنوانسیون ها دائمی نشده اند. دوربین‌ها، حسگرها، قابلیت‌های همیشه روشن، پردازش محلی، و وابستگی به ابر همچنان انتخاب‌های طراحی هستند تا ویژگی‌های تغییرناپذیر این دسته، که به صنعت اجازه می‌دهد تصمیم بگیرد چقدر به زندگی افرادی که از آن استفاده می‌کنند و اطرافیانشان دسترسی داشته باشد.

همین فرصت در هوش مصنوعی مصرف کننده در حال ظهور وجود دارد. همانطور که دستگاه‌ها از محیط اطراف خود آگاه‌تر می‌شوند، حریم خصوصی نمی‌تواند به سادگی توصیف کند که پس از جمع‌آوری اطلاعات چه اتفاقی می‌افتد. باید تأثیر بگذارد که آیا آن اطلاعات در وهله اول باید جمع آوری شود یا خیر.

شرکت‌هایی که فناوری مصرف‌کننده پایدار می‌سازند همچنان بر روی قابلیت، عملکرد، طراحی و سودمندی رقابت خواهند کرد، اما به‌ویژه برای دستگاه‌های پوشیدنی، آزمون واقعی این خواهد بود که آیا مردم آن‌ها را به اندازه کافی مفید و راحت می‌دانند تا در طول زندگی روزمره از آن‌ها استفاده کنند.

اعتماد در این معادله نقش اساسی دارد زیرا زمانی که محصولی به پوشنده یا اطرافیانشان یاد داد که از حضور آن ناراحت نباشند، مقاوم سازی آن دشوار است. حریم خصوصی نباید به عنوان ویژگی دیگری در نقشه راه تلقی شود، بلکه باید به عنوان یکی از تصمیمات معماری که تعیین می کند نقشه راه می تواند مسئولانه باشد.

ما بهترین نرم افزار مدیریت اطلاعات محصول را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit