در دهه ۱۹۹۰، نوع جدیدی از الگوریتم یادگیری به ‌نام «ماشین بردار پشتیبانی» برمبنای نتایج نظریه یادگیری آماری توسعه یافت. این اتفاق باعث ظهور طبقه‌بندی جدیدی از ماشین‌های یادگیری شد که از مفهومی محوری در ماشین‌های بردار پشتیبانی، یعنی کرنل‌ها، برای شماری از کارهای یادگیری استفاده می‌کنند. کتاب «Learning with Kernels» که توسط انتشارات MIT Press منتشر شده، مقدمه‌ای بر ماشین‌های بردار پشتیبانی و شیوه‌های کرنل مرتبط است. این کتاب با ارائه همه مفاهیم ضروری به خواننده‌ای که از دانش ریاضی پایه‌ای برخوردار است این توانایی را می‌دهد که با استفاده از الگوریتم‌های کرنل به جهان یادگیری ماشین وارد شود.

این کتاب با معرفی مفهوم توابع کرنل شروع می‌شود. توابع کرنل امکان محاسبه بهره‌ور ضرب داخلی در فضاهایی با ابعاد زیاد را فراهم می‌کنند و از طریق فرایندی به‌نام ترفند کرنل، به‌کارگیری الگوریتم‌های خطی در مسائل غیرخطی را ممکن می‌سازند.

نویسندگان کتاب در ادامه درباره مبانی ریاضی ماشین‌های بردار پشتیبانی، از جمله مسائل بهینه‌سازی بحث می‌کنند که برای آموزش این مدل‌ها باید حل شوند. به شکل‌های اولیه و دوگانه مسئله بهینه‌سازی، استفاده از ضرایب لاگرانژ و شرایط بهینگی مثل شرایط کاروش-کون-تاکر می‌پردازند. کتاب همچنین انواع مختلف ماشین‌های بردار پشتیبانی، از جمله ماشین‌های دسته‌بندی دودویی، دسته‌بندی چندطبقه و رگرسیون را بررسی می‌کند.

بخش قابل توجهی از کتاب به مفهوم نرمال‌سازی اختصاص دارد. نرمال‌سازی با افزودن شرط جریمه به هدف بهینه‌سازی از بیش‌برازش جلوگیری می‌کند. بنابراین نویسندگان درباره استراتژی‌های نرمال‌سازی مختلف و اثر آنها بر عملکرد تعمیم الگوریتم‌های یادگیری بحث می‌کنند.

این کتاب همچنین به طیفی از مباحث ورای ماشین‌های بردار پشتیبانی می‌پردازد که از جمله می‌توان به تحلیل مولفه‌های اصلی کرنل، تحلیل افتراقی کرنل فیشر و سایر روش‌های مبتنی‌بر کرنل برای کاهش بعد و انتخاب ویژگی اشاره کرد. همچنین بینش‌هایی را درباره ارتباط میان روش‌های کرنل و سایر حوزه‌های یادگیری ماشین مثل مدل‌های گرافیکی و شبکه‌های عصبی ارائه می‌دهد.

نویسندگان در طول کتاب، مثال‌ها و مطالعات موردی بی‌شماری ارائه می‌کنند تا نشان دهند چطور می‌توان روش‌های کرنل را در مسائل واقعی در حوزه‌هایی مثل بیوانفورماتیک، دسته‌بندی متن و تشخیص تصویر به‌ کار برد.

درمجموع می‌توان گفت کتاب «Learning with Kernels» راهنمای موثقی برای روش‌های کرنل در یادگیری ماشین است. این کتاب ماشین‌های بردار پشتیبانی و تکنیک‌های مربوط را به‌صورت نظری و عملی عمیقا واکاوی می‌کند؛ بنابراین می‌توان آن را منبعی ضروری برای پژوهشگران و فعالان علاقه‌مند به استفاده از این ابزارها برای حل مسائل پیچیده تحلیل داده و تشخیص الگو دانست.

منبع:

 direct.mit.ed