آنچه خواهید خواند
نگاهی اجمالی به استعفای مهندس OpenAI پس از یک سال
در این مقاله به استعفای مهندس OpenAI پس از یک سال میپردازیم و گفته های این مهندس را مورد بررسی قرار میدهیم. کالوین فرنچ-اوون، مهندسی که روی یکی از امیدوارکنندهترین محصولات جدید OpenAI کار میکرد، سه هفته پیش از این شرکت استعفا داد.
او به تازگی یک پست وبلاگی جذاب دربارهٔ تجربهٔ یک سال کار در آنجا منتشر کردهاست، از جمله تلاشهای بیوقفه برای ساخت Codex. Codex، عامل کدنویسی جدید OpenAI است که با ابزارهایی مانند Cursor و Claude Code از Anthropic رقابت میکند.
فرنچ-اوون گفتهاست که به دلیل هیچ «حاشیهای» از شرکت نرفتهاست، بلکه میخواهد دوباره به عنوان بنیانگذار یک استارتآپ فعالیت کند. او یکی از بنیانگذاران استارتآپ دادههای مشتری Segment بود که در سال 2020 به قیمت 3.2 میلیارد دلار توسط Twilio خریداری شد.
برخی از مواردی که او در مورد فرهنگ OpenAI فاش کرد، کسی را شگفتزده نمیکند، اما سایر مشاهدات برخی تصورات غلط در مورد شرکت را از بین میبرد. (امکان تماس فوری با او برای اظهار نظر وجود نداشت.)
به گفتهٔ او، OpenAI در سالی که او در آنجا بود، از 1000 به 3000 نفر افزایش یافت. این شرکت سازندهٔ مدل LLM قطعاً دلایلی برای چنین استخدامی دارد. این شرکت، سریعترین محصول مصرفی در حال رشد است و رقبای آن نیز به سرعت در حال رشد هستند. در ماه مارس، این شرکت اعلام کرد که ChatGPT بیش از 500 میلیون شما فعال دارد و به سرعت در حال افزایش است.
هرج و مرج: فرنچ-اوون نوشتهاست: «وقتی به این سرعت مقیاس پیدا میکنید، همهچیز از هم میپاشد: نحوهٔ ارتباط به عنوان یک شرکت، ساختارهای گزارشدهی، نحوهٔ ارائهٔ محصول، نحوهٔ مدیریت و سازماندهی افراد، فرایندهای استخدام و غیره.»
مانند یک استارتآپ کوچک، افراد در آنجا هنوز هم این قدرت را دارند که با حداقل بوروکراسی یا بدون آن، ایدههای خود را عملی کند. اما این بدان معناست که تیمهای متعددی در حال انجام تلاشهای تکراری هستند. او به عنوان مثال گفت: «من حتماً نیم دوجین کتابخانه برای مواردی مانند مدیریت صف یا حلقههای عامل دیدهام.»
مهارتهای کدنویسی نیز متفاوت است، از مهندسان کارکشتهٔ گوگل که کدی مینویسند که میتواند یک میلیارد شما را مدیریت کند، تا فارغالتحصیلان جدید دکترا که این کار را نمیکند. او توضیح داد که این موضوع، همراه با زبان پایتون انعطافپذیر، به این معنی است که مخزن مرکزی کد، با نام مستعار «مونولیت بکاند»، «کمی شبیه محل تخلیه زباله» است.
موارد اغلب خراب میشوند یا اجرای آنها میتواند زمان زیادی ببرد. اما مدیران ارشد مهندسی از این موضوع آگاه هستند و در حال کار بر روی بهبود آن هستند.
«روحیهٔ راهاندازی»: به نظر نمیرسد OpenAI هنوز بداند که یک شرکت بزرگ است، درست تا جایی که کاملاً روی Slack اداره میشود. فرنچ-اوون مشاهده کرد که این شرکت بسیار شبیه Meta با شعار «سریع حرکت کن و همهچیز را خراب کن» در سالهای اولیهٔ فیسبوک است. این شرکت همچنین پر از استخدامشدگان Meta است.
فرنچ-اوون شرح داد که چگونه تیم ارشد او متشکل از حدود هشت مهندس، چهار محقق، دو طراح، دو کارمند بخش بازاریابی و یک مدیر محصول، Codex را تنها در هفت هفته، از ابتدا تا انتها، تقریباً بدون خواب ساختند و راهاندازی کردند. اما راهاندازی آن جادویی بود. فقط با روشن کردن آن، آنها شما جذب کردند. «من هرگز ندیدهام که یک محصول فقط با ظاهر شدن در یک نوار کناری سمت چپ، اینقدر بازخورد فوری دریافت کند، اما این قدرت ChatGPT است.»
حوضچهٔ ماهیگیری مخفیانه: ChatGPT یک شرکت هوش مصنوعی بسیار مورد بررسی است. این امر منجر به ایجاد فرهنگ پنهانکاری در تلاش برای سرکوب درز اطلاعات به عموم شدهاست. در عین حال، این شرکت X را تماشا میکند. اگر پستی در آنجا وایرال شود، OpenAI آن را خواهد دید و احتمالاً به آن پاسخ خواهد داد. او نوشت: «یکی از دوستان من شوخی میکرد که این شرکت با حال و هوای توییتر اداره میشود.»
بزرگترین تصور غلط: فرنچ-اوون اشاره کرد که بزرگترین تصور غلط دربارهٔ OpenAI این است که این شرکت به اندازهٔ کافی نگران ایمنی نیست. قطعاً بسیاری از افراد فعال در زمینهٔ ایمنی هوش مصنوعی، از جمله کارمندان سابق OpenAI، از فرآیندهای آن انتقاد کردهاند.
او نوشت: «در حالی که بدبینانی نگران خطرات نظری برای بشریت هستند، در داخل شرکت تمرکز بیشتری بر ایمنی عملی مانند «گفتار نفرتانگیز، سوء استفاده، دستکاری تعصبات سیاسی، ساخت سلاحها، خودآزاری، تزریق سریع» وجود دارد. او نوشت که OpenAI تاثیرات بالقوهٔ بلندمدت را نادیده نمیگیرد. محققانی وجود دارند که به آنها نگاه میکنند و این شرکت آگاه است که صدها میلیون نفر امروز از LLMهای آن برای همه چیز از مشاورهٔ پزشکی گرفته تا درمان استفاده میکنند.
دولتها در حال تماشا هستند. رقبا در حال تماشا هستند (و OpenAI نیز متقابلاً رقبا را تماشا میکند). «شرایط واقعاً حساس به نظر میرسد.»
پاسخگوی سوالات شما هستیم
دیدگاهی وجود ندارد!