ماشین بردارپشتیبان

در سال 1965 محققی روسی به نام ولادیمیر وپنیک گامی بسیار مهم در طراحی طبقه بندی- کننده ها برداشت. وی نظریه آماری یادگیری را به صورت مستحکم تری بنا نهاد و ماشینهای بردار- پشتیبان را بر این اساس ارائه داد.

در هنگام تلاش برای کشف الگوها و مدل های طبقه بندی ، یادگیری ماشین می تواند یک ابزار قوی بشمار رود (جانا و ماتجاز،2001، 8). ماشین بردار پشتیبان در واقع یک طبقه بندی کننده دودوئی است که دو کلاس را با بهره گرفتن از یک مرز خطی از هم جدا می کند. در این روش با بهره گرفتن از تمامی باند ها و یک الگوریتم بهینه سازی ، نمونه هایی که مرز ها ی کلاسها را تشکیل می دهند به دست می آورند (وپنیک و چروننکیس،1991، 15).

در این روش مرز خطی بین دو کلاس به گونه ای محاسبه می شود که :

1- تمام نمونه های کلاس +1 در یک طرف مرز و تمام نمونه های کلاس -1 در طرف دیگر مرز واقع شوند.

2- مرز تصمیم گیری به گونه ای باشد که فاصله نزدیکترین نمونه های آموزشی هر دو کلاس از یکدیگر در راستای عمود بر مرز تصمیم گیری تا جایی که ممکن است.

این متد شبیه به شبکه های عصبی است که به جای خط جدا کننده، بدنبال بهترین خط جدا- کننده ای است که دارای حداکثر حاشیه باشد. یعنی بهترین خط جدا کننده ای که با نزدیکترین نقطه، کمترین فاصله را داشته باشد. حداکثر کردن حاشیه ابر صفحه ، بردار های پشتیبان اطلاق می گردد. حداکثر کردن حاشیه ابر صفحه منجر به حداکثر شدن تفکیک بین طبقات می شود. تنها از این بردار (نقاط) برای مشخص کردن مرز بین طبقات استفاده می شود (کیونگ،تایک،هیونگ،2005، 130).

اگر داده ها به صورت خطی مجزا ازهم باشند، ماشین بردار پشتیبان به ماشین های خطی برای تولید یک سطح بهینه که داده ها را بدون خطا و با حداکثر فاصله میان صفحه و نزدیکترین نقاط آموزشی (بردارهای پشتیبان) تفکیک می نماید، آموزش می دهد. اگر نقاط آموزشی را به صورت  و بردار ورودی  i=1,….Iو{1و1-}    تعریف می کنیم، آنگاه در حالتی که داده ها به صورت خطی قابل تفکیک هستند، قواعد تصمیم گیری که تعریف می شود و توسط یک صفحه بهینه که طبقات تصمیم گیری باینری را تفکیک می کند

Jana And Matjaz

Chervonenkis

Maximum Margin

Shin S. Kyung,Lee S.Taik, & Kim J.Hyun