实例介绍
大家好,我是Mac Jiang,今天和搭建分享的是台湾大学机器学习基石(Machine Learning Foundations)的个人笔记。个人觉得这门课是一门非常好的机器学习入门课程,值得初学者学习!这份笔记是本人一笔一划手写,扫描后上传了,也算是一个月的心血,希望我的工作能够给大家带来一些学习上的帮助。
Week 1: The leaming Problem Date P 1. What is Machine Learning? m:画过观架( observation)款悍技能〔)cb→圆>sk dem0过数(d枝能(s)t→DML→5 m Prove :增进某种表现 Performance measure Per forno Measure ML: an alternative rute to butt aomplacoded systems - When human connot prinn the system manually (navigating on Mars) -When human nnot define the solution esaily(speech/vgual recgnition) -When needing raBid deasions that huniang cannot do (high freguency trading? When neeling to be user-orrented in a massive sale(Consumer-targetd mopketig) data im proved ①有在其些日术 Pattern RcRR ML erformance 机购在完不知邮们度珠 meusure 的隐藏规剧料灿 2.Appliaation of Machine learni O food: data Twitter data Words spill tell food Poisoning Cike lines of resturant properly e clothig. data: scale fiqures +client surveys skill: give good fashion recommendation to Clients 3 Hosing, data, characteristic of buidings and their energy load kill:predict energy lad of other buiding closely 9 Trans potation: data: Some traffic sign images and meanings Shill= recognize troffic Sions acurately O Education: data. Studerts, records on izes on a math tutoring system skilL: Predict whether a stdert can give a Comet answer to anther question ⑥ ntertainment:da: ho w many users have hated some movies象社解料系 子荐你统 stiu Predict how a user Would rate an uNat Pagc 3. Com Ponent of Machi ne lemn 输入:x∈x 出:y∈Y 睛数(9Mrtm)tf:y→丫〔想下的)抛规律台道 数据如 raining examples:D=,,()…(xm hyes分sk:9x→y〔学到的程制的 孤)辆一M→9 Algur+ n H( hy Pothesis Set)色色妇的成坏的Pt8,9∈H,从种中最的即9 Leaming model= A and He hypothesis set 4.Machine learning and other Fi Machine (earring, B do值到约练于B数于的设3 CML atMn鸡:eg如 to find property that15e西不哦啥 CDM) 若立越西的为9R西事无大大区刷 若栖与9关,PM可帮助ML Ardt9g让电座有很瞰明的表视(下开) CA工) 机学展现A工铝能的方法 statistics(计利用瓷料爆到推龙,从数学角出发 纯计晨钯机罟孑的方法 第2讲: Learn to Answer a 人阳0 n Hypothesis set(假设集) Xxx)「y=(,许答 Wii threshold 飞岁=+,讲卷Wx∠thr<hd heH,ka)=9(卷的X-出“值)=59(号0x+thdy:) Woa-tuh Sign(E wiX)= Sign(WTx) (Tron mue al orithm CPLA H:所有感知集,我们想利用训练D得9≈f,即9×=f)=h 问题:H中有元限感和,如伺择? 角:从某一元9。开始,纠正(数据D)9者改演堂法 PLA怀 for t=o nt:的函数 ①寻找W的下一个错误分类点〔Xn),h),即s9(wxnt)+y nlt) ⊙纠正错媒:M←W+)xnt 有列无错误成啮定条件 当)=+!,和Wxn)<D: 当ynt)=-,而MTxn)元O wA Aty. x wry <o 0yx=W+x很可能匀x积内正 W+yx=Wx很时与辽积为 :①算法何时停下?元错时停下来?但若不右在无幡9? ②在训练集D上,9也许表现很妈,但对于D外的样本? 茅点有错:yx<0 某点无错:ywx>0 Bale Pace 3. Guarantee of PLA near Separability(线性动):有在解线便对D的分和D展线性可分的 ■如果D是线性可分的台有在完全的使易=5(X) ●证明线性可集D用PA反最危会侍下来 個假设谢即鬼的,使h=gCM):有‰ t Wg Xnu)7 min yawl>,0 ()M更价当找到锘误,有hxm)→htMa≤o (3)通到销误点曼:Ww=+hnx a.每次纠正,w都在大 出于对样本完美分割故h四x0,有: yntt)M Xnt)z min yM70 当贴(Xm,如)进正:W=B4(+(e=W下+h时h 即次销纠正,W都在增大 一杜出一甘钟知m+2=+时2+2h ←钟t#2 b当愚剩得点后正为(X如),有9(0,即1和)≤D tynut)nt=WIlt 2ynlt)Wt Xn)+(/ ynd Xn(b)- 次Wt的坤长不可能无限大,限制。小侧M的增长, c游wt=w(+%m)xm+)ltmn为…27hMnW 2=u+h1)42-w2+2lh:ym+x+t) <l W1l+l nt) Xnu-2l1slWlltaxll X l- <(lWl(+. mp IM)2-T maXI t Tmin界wx八 tt wfrl- marin! Con sfa 13m09nt>14W会来松近((如t WT的龍Gs6 但无限增大〔),散算法最金停下来 Date P 定义:R2=m刷2,P=米两,PA要来几次会倍下来 如m n树x 下 fufil maIlX ll T≤,最险时 4. More about PLA PA优点宝现简单,速度快,任维度以下都可以行 PA做点:①假D是线性司怕的一但们不D是线性胎,若不分PA会侮止 ⊙即使知道W在线惟印)但了知女会停下一P=m有2脏不知预久 敬我们不道PA是子会角列使钟通公停,也不口多久才金停下 ②若D不艮钱性可分的么办? °/dyPA:Pet/gtbm(金心草法)--对子非线性司分D 始化 Pocket weights0 for t=O, ①号找Wt首氓点CXnt)a ⊙正错:W←-W+nu):xn ③比W的错误率更小把更为 直到尺的的送代次数 patio 当知D是线性可分,则PA(垂度快),P邮历科本度慢 连知D艰线性可分网用 Pocket 第 3#:下yP吁mig l.Learning with Diferent Output SPace Y wto binary classfication n:y={-,+3 · credit approve dis approve a email spam/nom--spam Patient Sick /not sick ad Profitable/ds pofiuble answer Correct I in Correct (EpD Cup Zolo)- ()Multi class Classification Coin Reag nition problem y= fIc, SC, oC, 25c3=y=[L,2,--k3 W比 gital classfication)· Picture(ore, strawbery s emails(spam, Primary, SoCial Promotion, update) 3)Regression: Y=RE Y= Clower, upperICR ,Stock pmce prediction House Price Prediction temperature Prediction ) ructured learn的(绩柯t)复丧花式出 Poid→ Protein foding(的结枸) Speeck dota→ speeck Prase tree 2. Learning with Afferent Data lable yo, abel Y supervised Learn ir alt yn 有鉴督学习:样库有本准宋y,CXn)组成样本 元战督学:样本尺有X没有y,{xn组样库没有合造的分标准,谭作标准 clustering:n3→ Cluster (x)6对立章自动桶其动融 , density esti mation (oz*at)e9、对友通事故荡鬼的析 Ot(t址tn(释常检测)門、信用卡湿刚检测 Date (3) Semi-supervised Some yh 半监武学习。样库3准嘲,-没始(数 face images with few labeled face identifier Gfoce book) mediclen data with a few (abded =medicine efect preditor 原:全都进训练样本很嵌因抑很长酬只能标记小部你 (4) rein farce ment Learning(h虽学)-量回报值为由稻 增还学:叫4小为td,假假难狗h犹个确梅出,但告忙受错的 设回报教若神定行得纬果网赵正回接 丘若定进纤支售钱果则给自板,找剧摄最路在 广和:(6 stomer, ad choice, click earning)纬广看用户是否击 机器人表:对个动作台峰定回拔 3. Learning with Different protoca子→Chh Ycn batch learn 底批习:把料全都给机,性学宛,9不化 2) on Line learni oe:二样本样本相每收更→9会随索户味慢慢实毛 PLA可以很宿易应用于线上学刁算法巾 reinforce learning-都是线上成(岁地给回权笔一笔来) c3)active (earning aGe(amg,9 testion ask,相器自想皮发视新的M,f是升么对应从是什么 用在取得@b很的场合,电的间我新画P就好了 Date Page 4 learning with Different Input space x (1) Raw Features 原始着据:数锯不经任伺加工,接喂结机 有1把像像泰为汉刷入 () Abstract Features 象据:没有物键义,对处理抽绿特像难 曲 妮定用对同歌曲评价,预测嚼的分,轴入为用取曲的分抽 (3)Concrete Features 且数据特:与物俚/际帱征关密切 不发放信用卡,用户信息为泉体的征 【实例截图】
【核心代码】
标签:
小贴士
感谢您为本站写下的评论,您的评论对其它用户来说具有重要的参考价值,所以请认真填写。
- 类似“顶”、“沙发”之类没有营养的文字,对勤劳贡献的楼主来说是令人沮丧的反馈信息。
- 相信您也不想看到一排文字/表情墙,所以请不要反馈意义不大的重复字符,也请尽量不要纯表情的回复。
- 提问之前请再仔细看一遍楼主的说明,或许是您遗漏了。
- 请勿到处挖坑绊人、招贴广告。既占空间让人厌烦,又没人会搭理,于人于己都无利。
关于好例子网
本站旨在为广大IT学习爱好者提供一个非营利性互相学习交流分享平台。本站所有资源都可以被免费获取学习研究。本站资源来自网友分享,对搜索内容的合法性不具有预见性、识别性、控制性,仅供学习研究,请务必在下载后24小时内给予删除,不得用于其他任何用途,否则后果自负。基于互联网的特殊性,平台无法对用户传输的作品、信息、内容的权属或合法性、安全性、合规性、真实性、科学性、完整权、有效性等进行实质审查;无论平台是否已进行审查,用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。本站所有资源不代表本站的观点或立场,基于网友分享,根据中国法律《信息网络传播权保护条例》第二十二与二十三条之规定,若资源存在侵权或相关问题请联系本站客服人员,点此联系我们。关于更多版权及免责申明参见 版权及免责申明
网友评论
我要评论