LoRA: مدلی که هیچوقت با آن حرف نمیزنید، اما همهچیز را شبیه شما میکند
LoRA یک چتبات نیست. یک فایل کوچک است که با نوشتههای خودتان آموزش دیده و مدل دیگری را به سمت لحن شما میکشاند. هیچوقت آن را باز نمیکنید. زیر هر چیزی که همین حالا استفاده میکنید مینشیند و آنچه از آن بیرون میآید را عوض میکند.
تماشای ویدیو در یوتیوب
چرا این قسمت در فصلی درباره مدلها هست
هر قسمت دیگر فصل 2 چیزی است که بازش میکنید و استفادهاش میکنید. این یکی نیست، و با این حال اینجا جایش هست، چون خروجی همه قسمتهای دیگر را عوض میکند.
به آن بهعنوان زیرساخت فکر کنید، نه ابزار. مدل موتور است. آداپتور تغییری در آن موتور است که باعث میشود کارِ شما را تولید کند، نه کارِ عمومی؛ و روی همهچیزهایی که موتور بعد از آن انجام میدهد اثر میگذارد.
این تکنیک واقعاً چیست
انطباق کمرتبه. سازوکارش این است که بهجای آموزش دوباره کل یک مدل، که بسیار گران است، یک مجموعه کوچک اضافی از مقادیر را آموزش میدهید که کنار آن مینشیند و رفتارش را جابهجا میکند.
نتیجه یک فایل است، معمولاً چند ده مگابایت، نه چند گیگابایتِ خود مدل. همین تفاوت اندازه، تمام دلیلی است که این کار برای افراد در دسترس است، نه فقط برای شرکتهایی با مرکز داده.
روی سختافزار خودتان قابل آموزش است
چند ساعت روی یک لپتاپ توانمند، بدون نیاز به نظارت. این همان واقعیتی است که بیشتر آدمها سخت باورش میکنند و همان چیزی است که اهمیت دارد، چون یعنی آموزش یک مدل روی کار خودتان، یک شنبه است، نه یک پروژه.
به یک مدل پایه وصل میشود
آداپتور بهتنهایی فایدهای ندارد. چیزی را تغییر میدهد. یعنی میتوانید بعداً آن را به یک مدل پایه بهتر منتقل کنید، و این یک برتری واقعی است، چون مدلهای زیرین مدام بهتر میشوند.
سبک را حمل میکند، نه دانش را
این تفاوت را باید محکم نگه داشت. یاد میگیرد چطور مینویسید. یاد نمیگیرد چه میدانید، و هرگز نباید برای واقعیتها به آن تکیه کرد. لحن از آداپتور، واقعیتها از فایلهای شما.
چه چیزی را در کار عوض میکند
خروجی دیگر چیزی نیست که بازنویسیاش کنید؛ چیزی میشود که اصلاحش میکنید.
این تفاوت کوچکی به نظر میرسد و تمامِ اقتصادِ این ماجرا است. بازنویسی یک پیشنویس عمومی تقریباً بهاندازه نوشتن از صفر طول میکشد؛ و به همین دلیل است که خیلی از مشاورها نوشتن با هوش مصنوعی را امتحان میکنند، در تئوری سریعترش میبینند و بیسروصدا کنارش میگذارند.
اصلاح یک نکته در پیشنویسی که همین حالا شبیه شما به نظر میرسد، یک دقیقه طول میکشد. تفاوت بین این دو تجربه، همان چیزی است که تعیین میکند آیا اصلاً این کار در وقت صرفهجویی میکند یا نه؛ و تقریباً کاملاً به این بستگی دارد که مدل روی کار شما آموزش دیده باشد یا فقط دربارهاش به او گفته باشند.
چه چیزی به آن میدهید
کیفیت آداپتور تقریباً کاملاً به این بستگی دارد که چه چیزی واردش میشود، و فقط چند قاعده هست.
- حداقل سی تا پنجاه قطعه، از نوشتههای خودتان، که واقعاً خودتان نوشتهاید.
- یک نوع نوشته برای هر آداپتور. متنهای ویدیویی یا پستهای بلند یا نامههای مشتری، نه مخلوطی از آنها، چون مخلوط به لحنی میانگین میرسد که شما ندارید.
- کارهای بهترتان، نه همهچیزهایی که دارید. آداپتوری که با خروجی متوسط شما آموزش دیده باشد، خروجی متوسط شما را تولید میکند.
- هیچچیز که یک ابزار تولید کرده باشد، هرگز، چون به آن یاد میدهد شبیه همان ابزار به نظر برسد.
در هفته اول چه چیزی را امتحان کنید
دو تمرین، و اولی یک تصمیم است، نه یک کار.
بروید و سی قطعهتان را پیدا کنید. این کار واقعی است و همان مرحلهای است که بیشتر تلاشها در آن متوقف میشوند، چون بیزرقوبرق است و یک عصر طول میکشد. پوشهها را باز کنید، آنچه دارید را بخوانید و آنهایی را انتخاب کنید که در بهترین حالت، بیشتر شبیه شما به نظر میرسند. همان انتخاب، بزرگترین عامل تعیینکننده نتیجه است.
بعد، پیش از اینکه چیزی را آموزش دهید، یک آزمایش انجام دهید: یکی از آن قطعهها را بردارید، به یک مدل همان شرحی را بدهید که آن قطعه را ساخته بود، و آنچه برمیگردد را کنار آنچه واقعاً نوشتهاید بخوانید. این مقایسه دقیقاً نشان میدهد که آداپتور قرار است چه فاصلهای را ببندد، و نتیجه را بعداً خیلی راحتتر میتوان صادقانه قضاوت کرد.
کجا اشتباه میشود
چهار اشتباه.
آموزش روی متنِ تولیدشده با ابزار. رایجترین و بیسروصدا آسیبزنندهترین، چون مطالب خوب به نظر میرسند و نتیجه، ماشینی است که دقیقاً همان لحنی را بازتولید میکند که میخواستید از آن فرار کنید.
مخلوطکردن لحنها. آداپتوری میسازد که همهچیز را بهقدر کافی و هیچچیز را خوب نمینویسد.
انتظار اینکه چیزهایی بداند. جزئیات مطمئن را با لحن شما تولید میکند، و این خطرناکتر از جزئیات مطمئن با لحن عمومی است، چون کمتر احتمال دارد چیزی را که شبیه نوشته خودتان به نظر میرسد بررسی کنید.
بازنویسی کامل خروجی. اگر این کار را بکنید، یک مدل را آموزش دادهاید تا باز هم همهچیز را خودتان بنویسید، و شروع کردهاید به حذف لحن خودتان از متن.
چطور کنار بقیه مینشیند
جایگزین هیچچیز در این فصل نیست. زیر همه آنها مینشیند.
جفت طبیعیاش با یک مدل بازِ قویِ بلندنویس بهعنوان پایه است، که بهصورت محلی اجرا میشود، چون این ترکیب لحن شما را، بهطول، رایگان و خصوصی به شما میدهد. این یک راهاندازی نوشتاری واقعاً توانمند است و هیچچیزش اجارهای نیست.
با حافظه هم جفت میشود، و این دو کارهای متفاوتی میکنند که آدمها با هم قاطیشان میکنند. آداپتور چطور نوشتن شما را حمل میکند. حافظه قواعد شما و تصمیمهای گذشتهتان را حمل میکند. هیچکدام جای دیگری را نمیگیرد و هر دو برای خروجیای که واقعاً بتوانید بفرستید لازماند.
اول کدام لحن را آموزش بدهیم
در نهایت بیش از یک آداپتور خواهید داشت، پس سؤال این است که کدام را اول بسازیم، نه کدام را بسازیم.
جواب درست، همان نوع نوشتنی است که بیشتر از همه تولیدش میکنید و بیشتر از همه از تولیدش بدتان میآید. همان ترکیب، جایی است که آداپتور سریعترین بازگشت را میدهد، و معمولاً نوشتنی نیست که مهمترین به نظر میرسد.
برای بیشتر مشاورها، آن نوشته توضیحی تکراری است: همان چیزها که بارها به آدمهای مختلف گفته میشود؛ حجم بالا، واقعاً مفید، و همان چیزی که وقتی هفته بد میشود، کنار گذاشته میشود. آموزشدادن آن لحن اول یعنی آداپتور ظرف چند روز دارد سود میدهد، نه اینکه منتظر مناسبتی بماند که برایش ساخته شده بود.
دومی را فقط بعد از اینکه اولی یک ماه در استفاده بوده بسازید. تا آن موقع میدانید چه چیزی را خوب انجام میدهد و چه چیزی را از دست میدهد، و دومی بهخاطر آموختن آن، بهمراتب بهتر میشود.
از کجا میفهمیم جواب داده است
قضاوت درباره لحن خودتان سختتر از آن چیزی است که به نظر میرسد، پس ارزش دارد بهجای یک حس، یک آزمایش داشته باشیم.
آزمایش مفید، مقایسه کور است. سه قطعهای را که خودتان نوشتهاید و سه قطعهای را که آداپتور از شرحهای مشابه تولید کرده بردارید، هر چیزی که هویت را نشان میدهد حذف کنید، چند روز کنارشان بگذارید و هر شش تا را بدون اینکه بدانید کدام کدام است بخوانید. اگر نتوانید با اطمینان تشخیص بدهید، جواب داده است. اگر فوراً تشخیص بدهید، به مطالب بیشتری نیاز دارد.
آزمایش دوم، شمارش اصلاحات است. در چند هفته، تعداد نکتههایی را که در هر قطعه عوض میکنید دنبال کنید. یکی یا دو تا هدف است و یعنی دارد کار میکند. پنج تا یا بیشتر، هر بار، یعنی آداپتور یک پیشنویس تولید میکند، نه پیشنویسِ شما، و جواب، مطالب آموزشی بیشتر است، نه ویرایش بیشتر.
هر دو آزمایش تقریباً هیچ زحمتی نمیخواهد و جای حس مبهمِ اینکه «به نظر بهتر میرسد» را میگیرد؛ چیزی که هیچکس نمیتواند درباره نوشته خودش قضاوت کند.
چرا این کماستفادهترین چیز اینجاست
تقریباً هیچکس در این صنعت این کار را نکرده است، و دلیلش سختی نیست.
دلیلش این است که عبارت فنی به نظر میرسد، مخففش دافعه دارد و کل دستهبندی با زبانی توصیف شده که برای مهندسها نوشته شده است. فرآیند واقعی این است: نوشتههایتان را جمع کنید، یک دستور اجرا کنید، چند ساعت صبر کنید و از نتیجه استفاده کنید.
فاصله بین اینکه چقدر سخت به نظر میرسد و چقدر سخت است، شاید بزرگترین فاصله در همهچیزِ این سایت باشد؛ و اتفاقاً روی تواناییای نشسته است که مستقیمترین اثر را روی اینکه کار شما چطور خوانده میشود دارد.
هزینهاش چقدر است
هیچ. آموزش روی سختافزاری که مال خودتان است اجرا میشود، آداپتور یک فایل روی دیسک شماست و استفاده از آن بعداً رایگان است. هزینهاش یک عصر جمعکردن نوشتههایتان و چند ساعت بدون نظارت است که یک بار پرداخت میشود.
سؤالهایی که مشاورها واقعاً تایپ میکنند
LoRA در هوش مصنوعی چیست؟
انطباق کمرتبه: تکنیکی که یک فایل کوچک را آموزش میدهد تا کنار یک مدل بنشیند و رفتارش را جابهجا کند، بهجای اینکه کل مدل را دوباره آموزش بدهد. فایل آنقدر کوچک است که روی لپتاپ خودتان آموزش داده میشود؛ و به همین دلیل است که اصلاً برای افراد در دسترس است.
آیا میتوانم هوش مصنوعی را روی نوشتههای خودم آموزش بدهم؟
بله، با سی تا پنجاه قطعه از کار خودتان، یک نوع نوشته یکدست، روی سختافزاری که همین حالا دارید، در چند ساعت بدون نظارت. نتیجه فایلی است که نگهش میدارید و بعداً میتوانید به یک مدل بهتر منتقلش کنید.
آیا آداپتور باعث میشود هوش مصنوعی درباره کسبوکار من بداند؟
نه. چطور نوشتن شما را حمل میکند، نه چه میدانید را؛ و هرگز نباید برای واقعیتها به آن تکیه کرد. جزئیات مطمئن را با لحن شما تولید میکند، و این خطرناکتر از لحن عمومی است، چون کمتر احتمال دارد آنها را بررسی کنید.
آیا بهجای ChatGPT از LoRA استفاده میکنم؟
نه، زیر یک مدل مینشیند، نه اینکه جای آن را بگیرد. راهاندازی رایج، آداپتوری است که لحن شما را روی یک مدل باز قوی که بهصورت محلی اجرا میشود حمل میکند؛ و این لحن شما را، بهطول، رایگان و خصوصی به شما میدهد.