مشکل اینجاست که از یک مدل بخواهید مثل شما صدا بدهد
هر مشاوری این کار را امتحان کرده است. سه تا از ایمیلهایتان را در یک پنجره چت میچسبانید و میخواهید ایمیل بعدی را با همان صدا بنویسد. چیزی که برمیگردد آنقدر نزدیک است که آن را بشناسید و آنقدر اشتباه است که باید بازنویسیاش کنید، و بعد از چهار دور از این کار، خودتان آن را مینویسید و به این نتیجه میرسید که کل ایده بیش از حد بزرگنمایی شده بود.
دلیلش ساده است. پرامپت، توصیفی از صدای شماست. مدل توصیف را میخواند، بعد از روی همه چیزی که تا به حال دیده تولید میکند، و میانگین همه چیزی که تا به حال دیده، قویتر از سه مثال شماست. شما از آن میخواهید تقلید کند. پس تقریب میزند.
آموزش، سازوکاری کاملاً متفاوت است. بهجای اینکه صدایتان را در درخواست توصیف کنید، خود مدل را طوری تنظیم میکنید که الگوهای شما همان چیزی باشد که بهطور پیشفرض به سراغش میرود. دیگر از روی یک توصیف از شما تقلید نمیکند. از نسخهای از خودش تولید میکند که با کار شما شکل گرفته است.
آداپتور واقعاً چیست
این تکنیک نامی دارد که وقتی آن را بشناسید همهجا میبینید: LoRA که مخفف low-rank adaptation است. بخش مفیدش مخفف نیست. بخش مفید این است که شما یک مدل کامل را دوباره آموزش نمیدهید، کاری که به یک مرکز داده نیاز دارد. شما مجموعه بسیار کوچکی از اعداد اضافی را آموزش میدهید که کنار مدل مینشینند و آن را به سمت شما متمایل میکنند. همان مجموعه کوچک، آداپتور است. یک فایل است، معمولاً چند ده مگابایت، و مال خود شماست.
آنقدر کوچک است که روی دستگاه خودتان اجرا شود
یک لپتاپ مدرن با حافظه کافی میتواند در چند ساعت یکی را آموزش دهد و بعد از آن فوراً اجرایش کند. نه خوشهای هست، نه حساب ابری، و نه هزینهای بهازای هر بار استفاده. همین بخش است که کسانی را شگفتزده میکند که فکر میکنند آموزش مدل کاری است که فقط شرکتهای بزرگ انجام میدهند.
مال شماست و قابلحمل است
فایل آداپتور یک دارایی است. داخل محصول کس دیگری زندگی نمیکند، وقتی اشتراکی تمام میشود از کار نمیافتد، و بعداً اگر مدل پایه بهتری بیاید میتوان آن را به سمت آن مدل نشانه گرفت. تقریباً هیچ چیز دیگری در مجموعه نرمافزاری یک مشاور این ویژگی را ندارد.
ریتم را میگیرد، نه واقعیتها را
اینجا همان بخشی است که بیشتر مردم اشتباه میکنند. آداپتور یاد میگیرد چطور مینویسید: طول جمله، تأکید را کجا میگذارید، چه چیزی را هرگز نمیگویید، چطور شروع میکنید و چطور تمام میکنید. واقعیتهای کسبوکارتان را یاد نمیگیرد و نباید به آن اعتماد کرد. واقعیتها از فایلهای شما میآیند. صدا از آداپتور میآید. جدا نگه داشتن این دو کار همان چیزی است که کل سیستم را قابلاعتماد میکند.
برای آموزش یکی به چه چیزی نیاز دارید
کمتر از چیزی که فکر میکنید، و تقریباً حتماً همین حالا آن را دارید.
- 30 تا 50 نمونه از نوشتههای خودتان. فیلمنامهها، خبرنامهها، پستهای بلند شبکههای اجتماعی، ایمیلهای مشتری که به آنها افتخار میکنید. بیشتر بهتر است، اما این کف است؛ جایی که تفاوت آشکار میشود.
- نوشتهها واقعاً باید مال خودتان باشد. هر چیزی که یک ابزار برای شما تولید کرده باشد به آداپتور یاد میدهد مثل همان ابزار صدا بدهد، و این کل تمرین را بیمعنا میکند.
- یک نوع نوشته یکدست بهتر از مخلوط است. آداپتوری که فقط با فیلمنامههای ویدیویی شما آموزش دیده باشد، فیلمنامهها را زیبا مینویسد. آداپتوری که با فیلمنامه و ایمیل و کپشن با هم آموزش دیده باشد، هر سه را بهطور قابلقبولی مینویسد.
- یک لپتاپ با حافظه کافی برای نگه داشتن مدل. این تنها سؤال سختافزاری است، و قسمت مربوط به مدلهای محلی آن را پوشش میدهد.
آموزش واقعاً چطور پیش میرود
نوشتهها را در یک پوشه جمع میکنید. هر نمونه را با یک توضیح کوتاه درباره اینکه برای چه بوده همراه میکنید، و همین به آداپتور رابطه میان یک درخواست و پاسخ شما به آن را یاد میدهد. بعد آموزش را اجرا میکنید، که یک دستور است، و صبر میکنید.
انتظار طولانیترین بخش است و بدون نظارت انجام میشود. چند ساعت روی یک لپتاپ برای اولین آداپتور عادی است. شما آنجا نمینشینید.
وقتی تمام میشود یک فایل دارید. مدل را به سمت آن نشانه میگیرید و چیزی میخواهید، و اولین باری که خروجی را میخوانید حس مشخصی از شناخت دارید که هیچ مقدار مهندسی پرامپت آن را تولید نمیکند. همین کل دلیل انجام این کار است.
قاعدهای که آن را مفید میکند، نه ناامیدکننده
قاعده
یک بار عبور، بعد یک چیز را اصلاح کنید.
حالت شکست این است که با خروجی مثل یک پیشنویس خام رفتار کنید و کل متن را بازنویسی کنید. اگر این کار را بکنید، یک بعدازظهر را صرف آموزش یک مدل کردهاید تا همچنان همه چیز را خودتان بنویسید.
روش درست این است که آنچه برمیگردد را بخوانید، همان یک ضربآهنگی را که اشتباه است پیدا کنید و فقط همان را تغییر دهید. نه به این دلیل که بقیهاش بینقص است، بلکه چون بقیهاش همین حالا مال شماست، و بازنویسی کلی آن همان راهی است که ناخواسته صدای خودتان را از آن میسایید. اگر هر بار بیشتر از یک یا دو ضربآهنگ اشتباه است، آداپتور به نوشتههای بیشتری از شما نیاز دارد، نه به ویرایش بیشتر از شما.
همچنین روشن کردن این نکته ارزش دارد که آداپتور چه چیزی نیست. آهنگ شما را حمل میکند، نه قضاوت شما را و نه قواعد شما را. با خوشحالی جملهای مینویسد که شما هرگز درباره موضوعی که هرگز به آن دست نمیزنید نمیگویید. هر بررسیای که روی پیشنویس خودتان اعمال میکنید، روی این یکی هم اعمال میشود.
چه چیزی را رشد میدهد
ثبات؛ همان چیزی که یک کسبوکار ارجاعی واقعاً روی آن میچرخد.
بیشتر مشاوران در دورههای کوتاه عالی هستند. ماه اول یک عادت محتوایی جدید تیز است و ماه ششم همان چیزی است که یک شب یکشنبه تایپ شده است. آداپتور همبستگی میان اینکه هفتهتان چطور گذشت و اینکه نوشتهتان چطور به نظر میرسد را از بین میبرد، چون نقطه شروع همیشه بهترین لحن شماست، نه خستهترین لحنتان.
همچنین بدهبستان میان حجم و صدا را از بین میبرد. انتشار بیشتر همیشه به معنای کمتر شبیه خودتان به نظر رسیدن بوده است، چون میانبرهایی که در حجم میزنید همان میانبرهایی هستند که شما را صاف میکنند. این اولین چیزی است که واقعاً این بدهبستان را میشکند.
اینجا کجا اشتباه میشود
چهار حالت شکست، و هر کدام اگر از قبل دربارهاش بدانید قابلاجتناب است.
- آموزش با متنی که یک ابزار برای شما نوشته است. این رایجترین و بیسروصدا مخربترین حالت است، چون مطلب شبیه مال شما به نظر میرسد و خوب خوانده میشود. چیزی که آداپتور یاد میگیرد آهنگ ابزار است با پوششی نازک از انتخابهای موضوعی شما، و در نهایت ماشینی دارید که با اطمینان دقیقاً همان چیزی را تولید میکند که میخواستید از آن فرار کنید. اگر مطمئن نیستید یک نمونه مال شماست، آن را کنار بگذارید.
- مخلوط کردن هر نوع نوشتهای که تا به حال انجام دادهاید. آداپتوری که با فیلمنامه، ایمیل، کپشن و مقاله بلند با هم آموزش دیده باشد، میانگین چهار لحن متفاوت را یاد میگیرد، و میانگین چهار لحن، لحنی است که شما واقعاً ندارید. یک آداپتور را با یک نوع نوشته آموزش دهید. اگر لحن دوم میخواهید، بعداً یک آداپتور دوم آموزش دهید.
- انتظار اینکه چیزهایی بداند. بازار شما را نمیشناسد، کسبوکار شما را نمیشناسد، و نمیداند سهشنبه گذشته چه اتفاقی افتاد، و وقتی مطمئن نیست چیزی باورپذیر با صدای شما تولید میکند، که بهمراتب خطرناکتر از چیزی باورنکردنی با صدای عمومی است. واقعیتها هر بار از فایلهای شما میآیند.
- بازنویسی خروجی. اگر کل آن را بازنویسی کنید هیچ وقتی صرفهجویی نکردهاید، و بدتر از آن، شروع کردهاید صدای خودتان را از آن بیرون ویرایش کنید. همان یک ضربآهنگی را که اشتباه است تغییر دهید. اگر در هر تلاش چند ضربآهنگ اشتباه است، پاسخ، مواد آموزشی بیشتر است، نه ویرایش بیشتر.
هزینهاش چقدر است
هیچ هزینهای در ماه و هیچ هزینهای بهازای هر بار استفاده. آموزش روی سختافزاری که همین حالا مال شماست اجرا میشود، آداپتور یک فایل روی دیسک شماست، و اجرای آن بعد از آن رایگان است. هزینه، یک بعدازظهر راهاندازی و ساعتهای آموزش بدون نظارت است، و آن هزینه یک بار پرداخت میشود.
سؤالاتی که مشاوران واقعاً تایپ میکنند
30 تا 50 نمونه، کف عملی است؛ جایی که تفاوت غیرقابلانکار میشود، و یک نوع نوشته یکدست بهمراتب بهتر از مخلوط عمل میکند. باید نوشتهای باشد که واقعاً خودتان انجام دادهاید، نه نوشتهای که یک ابزار برای شما تولید کرده باشد.
نه، و همین تفاوت دلیل ناامیدکننده بودن پرامپت است. مثالها در یک پرامپت توصیفی هستند که مدل میخواند و بعد با همه چیز دیگری که میداند میانگین میگیرد. آموزش، مدل را طوری تنظیم میکند که الگوهای شما همان چیزی باشد که بهطور پیشفرض به سراغش میرود.
نه، و نباید به آن اعتماد کرد. ریتم و عبارتبندی را یاد میگیرد، نه اطلاعات را. واقعیتها از فایلهای شما و لایه حافظهتان میآیند. جدا نگه داشتن صدا و واقعیتها بهعنوان دو کار جداگانه همان چیزی است که سیستم را قابلاعتماد میکند.
چون مثالها در یک پرامپت یک توصیف هستند، و مدل آن توصیف را با همه چیز دیگری که یاد گرفته میانگین میگیرد. آموزش، خود مدل را تغییر میدهد تا الگوهای شما پیشفرض باشند، نه یک درخواست. این سازوکاری متفاوت است، و دلیلش این است که پرامپت به سقف میرسد، جایی که آموزش نمیرسد.