Statisztikai spamszűrők Hatékony védelem a spam ellen. Sütő János (sj@acts.hu)

Átírás

1 Statisztikai spamszűrők Hatékony védelem a spam ellen Sütő János (sj@acts.hu)

2 Graham - Plan for spam

3 Dekódolás, tokenekre bontás

4 Valószínűség és érdekesség

5 Döntési mátrix felépítése enhanced+libido 0,9999 Subject*impress 0,9934 triples 0,9311 absolutely 0,8933

6 Statisztikai összegzés HAM??? SPAM 0% 91% 100%

7 Token adatbázis

8 Tanítás

9 Tanítás mennyisége vs. idő

10 Pontosság vs. idő

11 Fehérlista 0. SQL táblában tárolt minták 1. Név, , domain, IP-cím, FQDN 2. From: sor alapján

12 Csapda cím + aknamező = intelligens feketelista

13 Nehéz pontosan meghatározni a határértéket......ha túl magas, akkor kevés spamet ismer fel, ha túl alacsony, akkor sok jó levelet is elveszítünk.

14 Valószínűség eloszlás Forrás:

15 A szakértő megmondja Egy embernél jól működhet, de nél már nem... később komoly csalódás éri a téves biztonságérzetű felhasználót A spammerek legújabb trükkjeit nem ismeri fel

16 A Bayes-alapú technológiák megbízhatósága kétséges, kétségbe vonható

17 Mikro/piko spam Return-Path: X-Original-To: Received: from av-engine (localhost [ ]) by xx.xxxx.hu (Postfix) with SMTP id E04CC17013 for Mon, 21 Jul :38:58 Received: from 194.xx.xx.xx (unknown [ ]) by xx.xxxx.hu (Postfix) with SMTP id ABD for Mon, 21 Jul :38:57 Received: from by Sun,20 Jul :35:59 Message-ID: <C[20 Date: Mon, 21 Jul :38: (CEST) From: To: undisclosed-recipients:;

18 FROM*yahoo.com NO_SUBJECT* HEADER*undisclosed-recipients level84: in 68 [ms]

19 Received: from mx2.xxxx.hu (mx2.xxxx.hu [195.xx.xx.xx]) Received: from [ ( dsl.telesp.net.br [ ]) Received: from [ ] by mail2.newfashionproducts.com; Wed, 23 Jul Hora oficial do Brasil From: To: Subject: Vulcan! Date: Wed, 23 Jul Hora oficial do Brasil Content-Type: text/plain; format=flowed; charset="windows-1252"; reply-type=original Content-Transfer-Encoding: 7bit For bad boys only

20 HEADER*windows HEADER*mx2.xxxx.hu HEADER*195.xx.xx.xx level90: in 30 [ms] ingenuitycopy.com.multi.surbl.org has address ingenuitycopy.com.multi.uribl.com has address SURBL0*ingenuitycopy.com

21 Received: from mx2.xxxx.hu (mx2.xxxx.hu[195.xx.xx.xx]) by xx.xxx.hu (Postfix) with SMTP id C3F for Tue, 15 Jul :57: Received: from av-engine (localhost [ ]) by mx2.xxxx.hu (Postfix) with SMTP id C1C3642A0C6 for Tue, 15 Jul :57: Received: from host1-111-dynamic r.retail.telecomitalia.it (host1-111-dynamic r.retail.telecomitalia.it [ ]) by mx2.xxxx.hu (Postfix) with SMTP id BC2D1429EA9 for Tue, 15 Jul :57: Message-ID: Date: Tue, 15 Jul :57: From: "Anne" To: "Vickie" Subject: Style casino Win, win with us - our casino

22 HEADER*mx2.xxxx.hu HEADER*195.xx.xx.xx FROM*acts.hu Subject*casino with+our level65: in 41 [ms]

23 Received: from (unknown [ ]) by xx.xxx.hu (Postfix) with SMTP id83f6c17018 Message-ID: From: "kalle sandgorg" To: Subject: We caught you naked in the shower xxxx MIME-Version: 1.0 Content-Type: text/plain; charset="iso " Content-Transfer-Encoding: 7bit X-Priority: 3 X-MSMail-Priority: Normal X-Mailer: Microsoft Outlook Express X-MimeOLE: Produced By Microsoft MimeOLE V WATCH:

24 Subject*caught Subject*you Subject*shower Subject*naked level72: in 27 [ms]

25 Kreatív írás Received: from abqr197.neoplus.adsl.tpnet.pl (abqr197.neoplus.adsl.tpnet.pl [ ]) Received: from (HELO merlin.cssiinc.com) by xx.xxxx.hu with ESMTP ({nchar[8-12]}nchar[4-6]}) From: "Louis Hernandez" To: "Melvin King" Subject: Get a rod of colossal measurements! =_NextPart_6255_18D9_01C8ECCA.BFE87290 Content-Type: text/plain; charset="windows-1250" Content-Transfer-Encoding: quoted-printable I thought I could not do anything with this small dimension until I tried this remedy! Make it get bigger, go for it! once, I didnt want to hit it again.would tell him, You dont look Jewish. Nothing made him feel happierones.

26 FROM*louis FROM*hernandez HEADER*nchar windows-1250+meta Subject*get Subject*rod small+dimension made+him tried+this it!+font didnt+want until+tried you+dont mshtml name level93: in 33 [ms]

27 Adobe + eltört URL Received: from (ipbf.tokyo.ocn.ne.jp [ ]) From: "boote kirby" <1kazman@jaring.my> To: <sj@xxxx.hu> Subject: to sj Get the great discounts on popular software today! Windows XP Pro With SP2 - $59.95 Adobe Acrobat Pro 8 - $69.95 Office 2003 Pro - $59.95 Adobe Photoshop CS2 - $79.95 Microsoft Office 2004 for MAC $79.95 Adobe Acrobat 7 Professional for MAC $59.95 Adobe Creative Suite 2 Premium for MAC $ Visit our site: (copy this link and then replace "[DOT]" to ".")

28 great+discounts adobe+acrobat adobe+creative suite+premium creative+suite microsoft+office $59.95+adobe $79.95+adobe NO_SUBJECT* adobe+photoshop acrobat+professional photoshop+cs office+pro premium+for our+site com+copy copy+this replace+dot level66: in 41 [ms]

29 Image spam Received: from x.x.x.x.pldt.net (unknown [ ]) From: =?koi8-r?b?8i7nlidz1nlvxdc=?= To: =?koi8-r?b?4c3exc7dxdc=?= Subject: =?koi8-r?b?nydu28suiofxmxu08vpq0sxc7jxsdp1cdv0slj?= <META http-equiv=content-type content="text/html; charset=koi8-r"> <DIV align=center><font face=arial color=#000000><img align=middle> =C6=D2=C1=CE=DB=C9=DA=CE=CF=C7=CF=20=D0=C1=CB=C5=D4=C1 <STRONG><FONT color=#fa6105>«orby»:</font> C9=DE=C5=CE=CE=CF=C5 =D0=D2=C5=C4=CC=CF=D6=C5=CE=C9=C5 = Content-Type: image/jpeg; name="orbi0.jpg" Content-Transfer-Encoding: base64

30 Subject*koi8-r charset+koi8-r koi8-r+content-transfer-encoding koi8-r+meta div+bgcolor bgcolor+div raquo+font jjjjj+nbsp nbsp+jjj color+jjj jjj+jjjjj generator+style raquo+nbsp color+img strong+nbsp src+cid image+jpeg jpeg+content-transfer-encoding content-transfer-encoding+base IMAGE* EMBED* level70: in 51 [ms]

31 Received: from mary ( charter.com [ ]) Received: from [ ] by f.mx.mail.yahoo.com; From: "Carey To: Subject: Great variety of little helpers for your health. <szöveges rész az elején> =_NextPart_001_000F_01C8E6D2.031FDE80 Content-Type: text/html; charset="iso " Content-Transfer-Encoding: quoted-printable <p><a href=" target="_blank"> <strong><font size=3d"+1">click HERE URL!!! </font></strong></a> <br /> =_NextPart_000_000E_01C8E6D2.031FDE80 Content-Type: image/gif; name="10.gif" Content-Transfer-Encoding: base64

32 HEADER*f.mx.mail.yahoo.com FROM*carey Subject*great Subject*little Subject*helpers Subject*your Subject*health Subject*for+Subject*your center+bordercolor mshtml body+body body+table here+font border+href name content-type+meta head+title div+align size+click IMAGE* level97: in 33 [ms]

33 A töltelékszavak lerontják a felismerés hatékonyságát......spamre nem jellemző szavakat tesznek bele, így fog átjutni a spamszűrőn. Ha tanítod, akkor mérgezi az adatbázist, sokkal rosszabbul fog működni.

34 Received:from dsldevice.lan (x.x.x.x.orange.es[ ]) Subject: Give freedom to the desires <szöveges rész a lenti szósalátával> Content-Type: text/html; charset="windows-1252" Content-Transfer-Encoding: quoted-printable <META http-equiv=content-type content="text/html; charset=windows-1252"> <META content=3d"mshtml " name=generator> <STYLE></STYLE></HEAD> <BODY bgcolor=#ffffff><div align=center><font face=comic Sans MS size=3>a better way to give up smoking.</font></div><div align=center><font face=comic Sans size=3>your new source of great health.</font></div> <DIV><FONT face=comic Sans MS size=3></font> </DIV><DIV align=center><font face=comic Sans size=2><a href=" Here!</A></FONT></DIV><BR><BR><BR><BR><BR> exporatory euroaquilo equilivent esthesises entogenous eurobridge ethermeter fbterminfo enterozoan februarius

35 HEADER*dsldevice.lan FROM*charles Subject*give Subject*freedom Subject*desires windows-1252+meta charset+windows windows-1252+content-transfer-encoding generator+style here!+font size+better size+your div+align quoted-printable+the bgcolor+div you+dreamt which+one health.+font URL*livefilestore.com level73: in 27 [ms]

36 Received: from x-x-x-x.aaa.com.br (unknown[ ]) From: "Mckenzie Lavinder" To: "xxx" Subject: Actually you do not try them? Content-Type: text/plain; charset="iso " <szöveges rész összefüggéstelen szavakból álló mondatokkal> <A href=" <IMG alt="as sunken" hspace=0 src=" align=baseline border=0></a></div> <DIV align=left><font face=bookman Old Style size=1>but sold? Is by consequence indistinguishable. Is therefore It viewer. For counteract. At to broaden. on by supplementary seriously sentiment. avoid at twist. my what, dangerous the pipes.</font></div> <DIV align=left><font face=bookman Old Style size=1>which disappear. He is ignorant, repose. you timetable faculty. That easy it welch appellant. by go prescribed broken misguided. mistress the mindless. prophet social a hive. To be violate master.</font></div>

37 Subject*actually Subject*you Subject*not Subject*try Subject*them charset+iso align+baseline border+div URL*livefilestore.com hspace=0+src div+align bgcolor+div generator+style baseline+border size+but size+which level78: in 58 [ms]

38 Magyar nyelvű spam Received:from 3lyw4 (x.x.x.x.vodafone.hu[ ]) From: =?ISO ?Q?Anikó?= Subject: Nyerj LCD TV-t! To: Content-Type: text/plain; charset="iso " Reply-To: Hello! Szívesen néznéd Te is a filmeket egy nagyképernyos LCD TV-n, de nincs rá pénzed? Akkor nyerj egyet! Csak egy sms-t kell elküldened, és máris jó esélyed van rá, hogy jelképes áron vásárolhasd meg álmaid nagyképernyos plazmatv-jét! Nézd meg ezt az oldalt, megéri!

39 FROM*vipmail.hu FROM*anikó HEADER*3lyw egy+sms-t van+hogy phrase: RBL checking: zen.spamhaus.org surbl check for matutinyersz.eu (0) took 0 ms FROM*vipmail.hu FROM*anikó HEADER*3lyw egy+sms-t filmeket van+hogy van sms-t hogy mix: megéri! caught by rbl RBL0* level76: in 28 [ms]

40 Received: from mx2.xxxx.hu (mx2.xxxx.hu [195.xx.xx.xx]) Received: from (x.x.x.x.pool.tvnet.hu[ ]) From: "Molnár Zsolt" To: Subject: Címlista Tisztelt Hölgyem/ Uram! Megrendelhető nálam az alábbi címlista: magyarországi vállalkozás címe, tetszés szerinti csoportosításban (összesítve, illetve számos kategória külön is) magyarországi magán cím. Továbbá el tudom vállalni az kampány lebonyolítását (kiküldés), valamint tudok ajánlani címeket gyűjtő, valamint hírlevél kiküldő programot. Valamennyi címlistát idén, januárjában allítottam össze, a hibaszázalék mindössze 5-10 százalék, vagyis aktuálisabb, mint szinte valamennyi más hasonló adatbázis. Üdvözlettel, Molnár Zsolt

41 Subject*címlista uram!+megrendelhető megrendelhető+nálam részletes+tájékoztatót címlista valamennyi+címlistát tudok+ajánlani küldök+illetve címem vállalkozás magyarországi+magán bármilyen+felmerülő alábbi tájékoztatót+küldök illetve+válaszolok hasonló+adatbázis válaszolok+bármilyen számos+kategória címlista magyarországi+vállalkozás Üdvözlettel+molnár molnár+zsolt

42 Received: from mobilier1 (dslxxxx.pool.t-online.hu [ ]) From: Kontra =?ISO ?Q?György?= To: Subject: =?ISO ?Q?Bemutatkozás?= X-DCC--Metrics: mail02a.mail.t-online.hu 0; Body=1 Fuz1=1 Fuz2=1 <html><head><title>tisztelt Hölgyem</title></head><body> <p align="left">tisztelt Hölgyem/Uram! <br>kérem engedje meg hogy, bemutatkozzunk pár másodperc alatt. <br> Tekintse meg szórólapunkat, és ha felkeltettük érdeklõdését tekintse meg web oldalunkat és keressen fel személyesen vagy telefonon. </p> <a href=" meg aktuális akciónkat!</ a></p><a href=" border="0" src= " width="439" height="621"></a><p align="left">köszönjük a türelmét!<br> Üdvözlettel: Kontra György<br> Az Ön címe valamely nyilvános, mindenki által elérhetõ adatbázisból származik. Ez az nem minősül spamnek, hanem a évi CVIII. Törvény 14. -ban elõírt "hozzájárulás" kérés az informáláshoz. Amennyiben a továbbiakban nem kíván ilyen üzenetet kapni, kérjük, jelezze ezt egy válasz ben. Ha levelünkkel zavartuk, elnézést kérünk.<br>

43 HEADER* HEADER*mobilier FROM*Kontra =?ISO ?Q?Gy=F6rgy?= <flexen2@fre .hu> Subject*bemutatkozás microsoft+frontpage frontpage.editor.document+meta content+frontpage.editor.document content-language+content title+tisztelt keressen+fel engedje+meg hogy+bemutatkozzunk oldalunkat+href windows-1250+title URL*mobilier.hu URL*freeweb.hu kérjük+jelezze alatt.+tekintse jelezze+ezt web+oldalunkat nem spamnek+hanem hanem évi évi+cviii cviii.+törvény törvény

44 Bayes mérgezés Date: Tue, 15 Jul :57: From: "Anne" To: "Vickie" X-Abcde: ajaja ahah aua akakaka akaka Subject: Re: attack on spam filters I agree with you!<br> <font color= white >ajaj ajaju azaha azazazz akak</font> <!-- jaja ajajaj ajah uzauaz u azuua zuazau ahaha -->

45 Hogyan lehet legyőzni a statisztikai spamszűrőket?

46 Ha nem használod...