├── CRF.png ├── README.md ├── poetryFromTang.txt └── 文本分类.md /CRF.png: -------------------------------------------------------------------------------- https://raw.githubusercontent.com/FudanNLP/nlp-beginner/09ebf0ae9a52764ee8a6a08ccd6a7030c077bbfb/CRF.png -------------------------------------------------------------------------------- /README.md: -------------------------------------------------------------------------------- 1 | # NLP-Beginner：自然语言处理入门练习 2 | 3 | 新加入本实验室的同学，请按要求完成下面练习，并提交报告。 4 | 5 | *请完成每次练习后把report上传到QQ群中的共享文件夹中的“Reports of nlp-beginner”目录，文件命名格式为“task 1+姓名”。* 6 | 7 | 参考： 8 | 9 | 1. [深度学习上手指南](https://github.com/nndl/nndl.github.io/blob/master/md/DeepGuide.md) 10 | 2. 《[神经网络与深度学习](https://nndl.github.io/)》 11 | 3. 不懂问google 12 | 13 | 14 | 15 | 16 | 17 | ### 任务一：基于机器学习的文本分类 18 | 19 | 实现基于logistic/softmax regression的文本分类 20 | 21 | 1. 参考 22 | 1. [文本分类](文本分类.md) 23 | 2. 《[神经网络与深度学习](https://nndl.github.io/)》 第2/3章 24 | 2. 数据集：[Classify the sentiment of sentences from the Rotten Tomatoes dataset](https://www.kaggle.com/c/sentiment-analysis-on-movie-reviews) 25 | 3. 实现要求：NumPy 26 | 4. 需要了解的知识点： 27 | 28 | 1. 文本特征表示：Bag-of-Word，N-gram 29 | 2. 分类器：logistic/softmax regression，损失函数、（随机）梯度下降、特征选择 30 | 3. 数据集：训练集/验证集/测试集的划分 31 | 5. 实验： 32 | 1. 分析不同的特征、损失函数、学习率对最终分类性能的影响 33 | 2. shuffle 、batch、mini-batch 34 | 6. 时间：两周 35 | 36 | ### 任务二：基于深度学习的文本分类 37 | 38 | 熟悉Pytorch，用Pytorch重写《任务一》，实现CNN、RNN的文本分类； 39 | 40 | 1. 参考 41 | 42 | 1. https://pytorch.org/ 43 | 2. Convolutional Neural Networks for Sentence Classification 44 | 3. 45 | 2. word embedding 的方式初始化 46 | 1. 随机embedding的初始化方式 47 | 2. 用glove 预训练的embedding进行初始化 https://nlp.stanford.edu/projects/glove/ 48 | 3. 知识点： 49 | 50 | 1. CNN/RNN的特征抽取 51 | 2. 词嵌入 52 | 3. Dropout 53 | 4. 时间：两周 54 | 55 | ### 任务三：基于注意力机制的文本匹配 56 | 57 | 输入两个句子判断，判断它们之间的关系。参考[ESIM]( https://arxiv.org/pdf/1609.06038v3.pdf)（可以只用LSTM，忽略Tree-LSTM），用双向的注意力机制实现。 58 | 59 | 1. 参考 60 | 1. 《[神经网络与深度学习](https://nndl.github.io/)》 第7章 61 | 2. Reasoning about Entailment with Neural Attention 62 | 3. Enhanced LSTM for Natural Language Inference 63 | 2. 数据集：https://nlp.stanford.edu/projects/snli/ 64 | 3. 实现要求：Pytorch 65 | 4. 知识点： 66 | 1. 注意力机制 67 | 2. token2token attetnion 68 | 5. 时间：两周 69 | 70 | 71 | ### 任务四：基于LSTM+CRF的序列标注 72 | 73 | 用LSTM+CRF来训练序列标注模型：以Named Entity Recognition为例。 74 | 75 | 1. 参考 76 | 1. 《[神经网络与深度学习](https://nndl.github.io/)》 第6、11章 77 | 2. https://arxiv.org/pdf/1603.01354.pdf 78 | 3. https://arxiv.org/pdf/1603.01360.pdf 79 | 2. 数据集：CONLL 2003，https://www.clips.uantwerpen.be/conll2003/ner/ 80 | 3. 实现要求：Pytorch 81 | 4. 知识点： 82 | 1. 评价指标：precision、recall、F1 83 | 2. 无向图模型、CRF 84 | 5. 时间：两周 85 | 86 | ### 任务五：基于神经网络的语言模型 87 | 88 | 用LSTM、GRU来训练字符级的语言模型，计算困惑度 89 | 90 | 1. 参考 91 | 1. 《[神经网络与深度学习](https://nndl.github.io/)》 第6、15章 92 | 2. 数据集：poetryFromTang.txt 93 | 3. 实现要求：Pytorch 94 | 4. 知识点： 95 | 1. 语言模型：困惑度等 96 | 2. 文本生成 97 | 5. 时间：两周 -------------------------------------------------------------------------------- /poetryFromTang.txt: -------------------------------------------------------------------------------- 1 | 2 | 巴山上峡重复重，阳台碧峭十二峰。荆王猎时逢暮雨， 3 | 夜卧高丘梦神女。轻红流烟湿艳姿，行云飞去明星稀。 4 | 目极魂断望不见，猿啼三声泪沾衣。 5 | 6 | 见尽数万里，不闻三声猿。但飞萧萧雨，中有亭亭魂。 7 | 千载楚襄恨，遗文宋玉言。至今青冥里，云结深闺门。 8 | 9 | 碧丛丛，高插天，大江翻澜神曳烟。楚魂寻梦风飔然， 10 | 晓风飞雨生苔钱。瑶姬一去一千年，丁香筇竹啼老猿。 11 | 古祠近月蟾桂寒，椒花坠红湿云间。 12 | 13 | 巫山高，巫女妖，雨为暮兮云为朝，楚王憔悴魂欲销。 14 | 秋猿嗥嗥日将夕，红霞紫烟凝老壁。千岩万壑花皆坼， 15 | 但恐芳菲无正色。不知今古行人行，几人经此无秋情。 16 | 云深庙远不可觅，十二峰头插天碧。 17 | 18 | 君不见黄河之水天上来，奔流到海不复回。 19 | 君不见高堂明镜悲白发，朝如青丝暮成雪。 20 | 人生得意须尽欢，莫使金尊空对月。天生我材必有用， 21 | 千金散尽还复来。烹羊宰牛且为乐，会须一饮三百杯。 22 | 岑夫子，丹丘生，将进酒，杯莫停。与君歌一曲， 23 | 请君为我侧耳听。钟鼓馔玉不足贵，但愿长醉不复醒。 24 | 古来圣贤皆寂寞，惟有饮者留其名。陈王昔时宴平乐， 25 | 斗酒十千恣欢谑。主人何为言少钱，径须酤取对君酌。 26 | 五花马，千金裘，呼儿将出换美酒，与尔同销万古愁。 27 | 28 | 将进酒，将进酒，酒中有毒鸩主父，言之主父伤主母。 29 | 母为妾地父妾天，仰天俯地不忍言。佯为僵踣主父前， 30 | 主父不知加妾鞭。旁人知妾为主说，主将泪洗鞭头血。 31 | 推摧主母牵下堂，扶妾遣升堂上床。将进酒， 32 | 酒中无毒令主寿，愿主回思归主母，遣妾如此事主父。 33 | 妾为此事人偶知，自惭不密方自悲。主今颠倒安置妾， 34 | 贪天僭地谁不为。 35 | 36 | 琉璃钟，琥珀浓，小槽酒滴真珠红。烹龙炮凤玉脂泣， 37 | 罗屏绣幕围香风。吹龙笛，击鼍鼓，皓齿歌，细腰舞。 38 | 况是青春日将暮，桃花乱落如红雨。劝君终日酩酊醉， 39 | 酒不到刘伶坟上土。 40 | 41 | 君马黄，我马白，马色虽不同，人心本无隔。 42 | 共作游冶盘，双行洛阳陌。长剑既照曜，高冠何赩赫。 43 | 各有千金裘，俱为五侯客。猛虎落陷阱，壮夫时屈厄。 44 | 相知在急难，独好亦何益。 45 | 46 | 何地早芳菲，宛在长门殿。夭桃色若绶，秾李光如练。 47 | 啼鸟弄花疏，游蜂饮香遍。叹息春风起，飘零君不见。 48 | 49 | 芳树本多奇，年华复在斯。结翠成新幄，开红满旧枝。 50 | 风归花历乱，日度影参差。容色朝朝落，思君君不知。 51 | 52 | 玉花珍簟上，金缕画屏开。晓月怜筝柱，春风忆镜台。 53 | 筝柱春风吹晓月，芳树落花朝暝歇。稿砧刀头未有时， 54 | 攀条拭泪坐相思。 55 | 56 | 迢迢芳园树，列映清池曲。对此伤人心，还如故时绿。 57 | 风条洒馀霭，露叶承新旭。佳人不再攀，下有往来躅。 58 | 59 | 芳树已寥落，孤英尤可嘉。可怜团团叶，盖覆深深花。 60 | 游蜂竞攒刺，斗雀亦纷拏。天生细碎物，不爱好光华。 61 | 非无歼殄法，念尔有生涯。春雷一声发，惊燕亦惊蛇。 62 | 清池养神蔡，已复长虾蟆。雨露贵平施，吾其春草芽。 63 | 64 | 细蕊慢逐风，暖香闲破鼻。青帝固有心，时时动人意。 65 | 去年高枝犹压地，今年低枝已憔悴。 66 | 吾所以见造化之权，变通之理。春夏作头，秋冬为尾。 67 | 循环反复无穷已。今生长短同一轨，若使威可以制， 68 | 力可以止，秦皇不肯敛手下沙丘，孟贲不合低头入蒿里。 69 | 伊人强猛犹如此，顾我劳生何足恃。但愿开素袍， 70 | 倾绿蚁，陶陶兀兀大醉于青冥白昼间。任他上是天， 71 | 下是地。 72 | 73 | 君子事行役，再空芳岁期。美人旷延伫，万里浮云思。 74 | 园槿绽红艳，郊桑柔绿滋。坐看长夏晚，秋月生罗帏。 75 | 76 | 我思仙人，乃在碧海之东隅。 77 | 海寒多天风，白波连山倒蓬壶。长鲸喷涌不可涉， 78 | 抚心茫茫泪如珠。西来青鸟东飞去，愿寄一书谢麻姑。 79 | 80 | 桔槔烽火昼不灭，客路迢迢信难越。古镇刀攒万片霜， 81 | 寒江浪起千堆雪。此时西去定如何，空使南心远凄切。 82 | 83 | 当时我醉美人家，美人颜色娇如花。今日美人弃我去， 84 | 青楼珠箔天之涯。天涯娟娟常娥月，三五二八盈又缺。 85 | 翠眉蝉鬓生别离，一望不见心断绝。心断绝，几千里， 86 | 梦中醉卧巫山云，觉来泪滴湘江水。湘江两岸花木深， 87 | 美人不见愁人心。含愁更奏绿绮琴，调高弦绝无知音。 88 | 美人兮美人，不知为暮雨兮为朝云，相思一夜梅花发， 89 | 忽到窗前疑是君。 90 | 91 | 借问江上柳，青青为谁春。空游昨日地，不见昨日人。 92 | 缭绕万家井，往来车马尘。莫道无相识，要非心所亲。 93 | 94 | 朝亦有所思，暮亦有所思。登楼望君处，蔼蔼浮云飞。 95 | 浮云遮却阳关道，向晚谁知妾怀抱。玉井苍苔春院深， 96 | 桐花落地无人扫。 97 | 98 | 辟邪伎作鼓吹惊，雉子班之奏曲成，喔咿振迅欲飞鸣。 99 | 扇锦翼，雄风生，双雌同饮啄，趫悍谁能争。 100 | 乍向草中耿介死，不求黄金笼下生。 101 | 所贵旷士怀，朗然合太清。 102 | 103 | 高台暂俯临，飞翼耸轻音。浮光随日度，漾影逐波深。 104 | 迥瞰周平野，开怀畅远襟。独此三休上，还伤千岁心。 105 | 106 | 临高台，高台迢递绝浮埃，瑶轩绮构何崔嵬， 107 | 鸾歌凤吹清且哀。俯瞰长安道，萋萋御沟草， 108 | 斜对甘泉路，苍苍茂陵树。高台四望同， 109 | 帝乡佳气郁葱葱。紫阁丹楼纷照曜，璧房锦殿相玲珑。 110 | 东弥长乐观，西指未央宫。赤城映朝日，绿树摇春风。 111 | 旗亭百队开新市，甲第千甍分戚里。朱轮翠盖不胜春， 112 | 叠树层楹相对起。复有青楼大道中，绣户文窗雕绮栊。 113 | 锦衣昼不襞，罗帏夕未空。歌屏朝掩翠，妆镜晚窥红。 114 | 为吾安宝髻，蛾眉罢花丛。狭路尘间黯将暮， 115 | 云间月色明如素。鸳鸯池上两两飞，凤凰楼下双双度。 116 | 物色正如此，佳期那不顾。银鞍绣毂盛繁华， 117 | 可怜今夜宿倡家。倡家少妇不须嚬，东园桃李片时春。 118 | 君看旧日高台处，柏梁铜雀生黄尘。 119 | 120 | 凉风吹远念，使我升高台。宁知数片云，不是旧山来。 121 | 故人天一涯，久客殊未回。雁来不得书，空寄声哀哀。 122 | 123 | 穿屋穿墙不知止，争树争巢入营死。林间公子挟弹弓， 124 | 一丸致毙花丛里。小雏黄口未有知，青天不解高高飞。 125 | 虞人设网当要路，白日啾嘲祸万机。 126 | 127 | 朝日敛红烟，垂竿向绿川。人疑天上坐，鱼似镜中悬。 128 | 避楫时惊透，猜钩每误牵。湍危不理辖，潭静欲留船。 129 | 钓玉君徒尚，征金我未贤。为看芳饵下，贪得会无全。 130 | 131 | 汉将承恩西破戎，捷书先奏未央宫。 132 | 天子预开麟阁待，只今谁数贰师功。 133 | 134 | 官军西出过楼兰，营幕傍临月窟寒。 135 | 蒲海晓霜凝剑尾，葱山夜雪扑旌竿。 136 | 137 | 鸣笳擂鼓拥回军，破国平蕃昔未闻。 138 | 大夫鹊印摇边月，天将龙旗掣海云。 139 | 140 | 月落辕门鼓角鸣，千群面缚出蕃城。 141 | 洗兵鱼海云迎阵，秣马龙堆月照营。 142 | 143 | 蕃军遥见汉家营，满谷连山遍哭声。 144 | 万箭千刀一夜杀，平明流血浸空城。 145 | 146 | 暮雨旌旗湿未干，胡尘白草日光寒。 147 | 昨夜将军连晓战，蕃军只见马空鞍。 148 | 149 | 晋阳武，奋义威。炀之渝，德焉归。氓毕屠，绥者谁。 150 | 皇烈烈，专天机。号以仁，扬其旗。日之升，九土晞。 151 | 斥田圻，流洪辉。有其二，翼馀隋。斫枭骜，连熊螭。 152 | 枯以肉，勍者羸。后土荡，玄穹弥。合之育，莽然施。 153 | 惟德辅，庆无期。 154 | 155 | 兽之穷，奔大麓。天厚黄德，狙犷服。 156 | 甲之櫜弓，弭矢箙。皇旅靖，敌逾蹙。 157 | 自亡其徒，匪予戮。屈rH猛，虔栗栗。 158 | 縻以尺组，啖以秩。黎之阳，土茫茫。 159 | 富兵戎，盈仓箱。乏者德，莫能享。驱豺兕，授我疆。 160 | 161 | 战武牢，动河朔。逆之助，图掎角。怒鷇麛，抗乔岳。 162 | 翘萌牙，傲霜雹。王谋内定，申掌握。铺施芟夷， 163 | 二主缚。惮华戎，廓封略。命之瞢，卑以斫。归有德， 164 | 唯先觉。 165 | 166 | 泾水黄，陇野茫。负太白，腾天狼。有鸟鸷立，羽翼张。 167 | 钩喙决前，钜趯傍；怒飞饥啸，翾不可当。老雄死， 168 | 子复良。巢岐饮渭，肆翱翔。顿地纮，提天纲。 169 | 列缺掉帜，招摇耀铓。鬼神来助，梦嘉祥。脑涂原野， 170 | 魂飞扬。星辰复，恢一方。 171 | 172 | 奔鲸沛，荡海垠。吐霓翳日，腥浮云。帝怒下顾， 173 | 哀垫昏。授以神柄，推元臣。手援天矛，截修鳞。 174 | 披攘蒙霿，开海门。地平水静，浮天垠。羲和显耀， 175 | 乘清氛。赫炎溥畅，融大钧。 176 | 177 | 苞枿ba矣，惟根之蟠。弥巴蔽荆，负南极以安。 178 | 曰我旧梁氏，辑绥艰难。江汉之阻，都邑固以完。 179 | 圣人作，神武用，有臣勇智，奋不以众。投迹死地， 180 | 谋猷纵。化敌为家，虑则中。浩浩海裔，不威而同。 181 | 系缧降王，定厥功。澶漫万里，宣唐风。蛮夷九译， 182 | 咸来从。凯旋金奏，象形容。震赫万国，罔不龚。 183 | 184 | 河右澶漫，顽为之魁。王师如雷震，昆仑以颓。 185 | 上聋下聪，骜不可回。助仇抗有德，惟人之灾。 186 | 乃溃乃奋，执缚归厥命。万室蒙其仁，一夫则病。 187 | 濡以鸿泽，皇之圣。威畏德怀，功以定。顺之于理， 188 | 物咸遂厥性。 189 | 190 | 铁山碎，大漠舒。二虏劲，连穹庐。背北海，专坤隅。 191 | 岁来侵边，或傅于都。天子命元帅，奋其雄图。 192 | 破定襄，降魁渠。穷竟窟宅，斥余吾。百蛮破胆， 193 | 边氓苏。威武辉耀，明鬼区。利泽弥万祀，功不可逾。 194 | 官臣拜手，惟帝之谟。 195 | 196 | 本邦伊晋，惟时不靖。根柢之摇，枝叶攸病。 197 | 守臣不任，勩于神圣。惟钺之兴，翦焉则定。 198 | 洪惟我理，式和以敬。群顽既夷，庶绩咸正。 199 | 皇谟载大，惟人之庆。 200 | 201 | 吐谷浑盛强，背西海以夸。岁侵扰我疆，退匿险且遐。 202 | 帝谓神武师，往征靖皇家。烈烈旆其旗，熊虎杂龙蛇。 203 | 王旅千万人，衔枚默无哗。束刃逾山徼，张翼纵漠沙。 204 | 一举刈膻腥，尸骸积如麻。除恶务本根，况敢遗萌芽。 205 | 洋洋西海水，威命穷天涯。系虏来王都，犒乐穷休嘉。 206 | 登高望还师，竟野如春华。行者靡不归，亲戚讙要遮。 207 | 凯旋献清庙，万国思无邪。 208 | 209 | 麹氏雄西北，别绝臣外区。既恃远且险，纵傲不我虞。 210 | 烈烈王者师，熊螭以为徒。龙旂翻海浪，馹骑驰坤隅。 211 | 贲育搏婴儿，一扫不复馀。平沙际天极，但见黄云驱。 212 | 臣靖执长缨，智勇伏囚拘。文皇南面坐，夷狄千群趋。 213 | 咸称天子神，往古不得俱。献号天可汗，以覆我国都。 214 | 兵戎不交害，各保性与躯。 215 | 216 | 东蛮有谢氏，冠带理海中。已言我异世，虽圣莫能通。 217 | 王卒如飞翰，鹏鶱骇群龙。轰然自天坠，乃信神武功。 218 | 系虏君臣人，累累来自东。无思不服从，唐业如山崇。 219 | 百辟拜稽首，咸愿图形容。如周王会书，永永传无穷。 220 | 睢盱万状乖，咿嗢九译重。广轮抚四海，浩浩知皇风。 221 | 歌诗铙鼓间，以壮我元戎。 222 | 223 | 片玉来夸楚，治中作主人。江山增润色，词赋动阳春。 224 | 别馆当虚敞，离情任吐伸。因声两京旧，谁念卧漳滨。 225 | 226 | 楚关望秦国，相去千里馀。州县勤王事，山河转使车。 227 | 祖筵江上列，离恨别前书。愿及芳年赏，娇莺二月初。 228 | 229 | 早闻牛渚咏，今见鶺鴒心。羽翼嗟零落，悲鸣别故林。 230 | 苍梧白云远，烟水洞庭深。万里独飞去，南风迟尔音。 231 | 232 | 旧国余归楚，新年子北征。挂帆愁海路，分手恋朋情。 233 | 日夕故园意，汀洲春草生。何时一杯酒，重与季鹰倾。 234 | 235 | 吾道昧所适，驱车还向东。主人开旧馆，留客醉新丰。 236 | 树绕温泉绿，尘遮晚日红。拂衣从此去，高步蹑华嵩。 237 | 238 | 何幸遇休明，观光来上京。相逢武陵客，独送豫章行。 239 | 随牒牵黄绶，离群会墨卿。江南佳丽地，山水旧难名。 240 | 241 | 南国辛居士，言归旧竹林。未逢调鼎用，徒有济川心。 242 | 予亦忘机者，田园在汉阴。因君故乡去，遥寄式微吟。 243 | 244 | 惜尔怀其宝，迷邦倦客游。江山历全楚，河洛越成周。 245 | 道路疲千里，乡园老一丘。知君命不偶，同病亦同忧。 246 | 247 | 奉使推能者，勤王不暂闲。观风随按察，乘骑度荆关。 248 | 送别登何处，开筵旧岘山。征轩明日远，空望郢门间。 249 | 250 | 导漾自嶓冢，东流为汉川。维桑君有意，解缆我开筵。 251 | 云雨从兹别，林端意渺然。尺书能不吝，时望鲤鱼传。 252 | 253 | 西上游江西，临流恨解携。千山叠成嶂，万水泻为溪。 254 | 石浅流难溯，藤长险易跻。谁怜问津者，岁晏此中迷。 255 | 256 | 士有不得志，栖栖吴楚间。广陵相遇罢，彭蠡泛舟还。 257 | 樯出江中树，波连海上山。风帆明日远，何处更追攀。 258 | 259 | 献策金门去，承欢彩服违。以吾一日长，念尔聚星稀。 260 | 昏定须温席，寒多未授衣。桂枝如已擢，早逐雁南飞。 261 | 262 | 白日既云暮，朱颜亦已酡。画堂初点烛，金幌半垂罗。 263 | 长袖平阳曲，新声子夜歌。从来惯留客，兹夕为谁多。 264 | 265 | 侧听弦歌宰，文书游夏徒。故园欣赏竹，为邑幸来苏。 266 | 华省曾联事，仙舟复与俱。欲知临泛久，荷露渐成珠。 267 | 268 | 邑有弦歌宰，翔鸾狎野鸥。眷言华省旧，暂拂海池游。 269 | 郁岛藏深竹，前溪对舞楼。更闻书即事，云物是清秋。 270 | 271 | 甲第开金穴，荣期乐自多。枥嘶支遁马，池养右军鹅。 272 | 竹引携琴入，花邀载酒过。山公来取醉，时唱接z5歌。 273 | 274 | 言避一时暑，池亭五月开。喜逢金马客，同饮玉人杯。 275 | 舞鹤乘轩至，游鱼拥钓来。座中殊未起，箫管莫相催。 276 | 277 | 林卧愁春尽，开轩览物华。忽逢青鸟使，邀入赤松家。 278 | 丹灶初开火，仙桃正落花。童颜若可驻，何惜醉流霞。 279 | 280 | 瑞雪初盈尺，寒宵始半更。列筵邀酒伴，刻烛限诗成。 281 | 香炭金炉暖，娇弦玉指清。醉来方欲卧，不觉晓鸡鸣。 282 | 283 | 世业传珪组，江城佐股肱。高斋征学问，虚薄滥先登。 284 | 讲论陪诸子，文章得旧朋。士元多赏激，衰病恨无能。 285 | 286 | 人事有代谢，往来成古今。江山留胜迹，我辈复登临。 287 | 水落鱼梁浅，天寒梦泽深。羊公碑字在，读罢泪沾襟。 288 | 289 | 水楼一登眺，半出青林高。帟幕英僚敞，芳筵下客叨。 290 | 山藏伯禹穴，城压伍胥涛。今日观溟涨，垂纶学钓鳌。 291 | 292 | 吾友太乙子，餐霞卧赤城。欲寻华顶去，不惮恶溪名。 293 | 歇马凭云宿，扬帆截海行。高高翠微里，遥见石梁横。 294 | 295 | 秋入诗人意，巴歌和者稀。泛湖同逸旅，吟会是思归。 296 | 白简徒推荐，沧洲已拂衣。杳冥云外去，谁不羡鸿飞。 297 | 298 | 挂席几千里，名山都未逢。泊舟浔阳郭，始见香炉峰。 299 | 尝读远公传，永怀尘外踪。东林精舍近，日暮但闻钟。 300 | 301 | 独步人何在，嵩阳有故楼。岁寒问耆旧，行县拥诸侯。 302 | 林莽北弥望，沮漳东会流。客中遇知己，无复越乡忧。 303 | 304 | 武陵川路狭，前棹入花林。莫测幽源里，仙家信几深。 305 | 水回青嶂合，云度绿溪阴。坐听闲猿啸，弥清尘外心。 306 | 307 | 百里闻雷震，鸣弦暂辍弹。府中连骑出，江上待潮观。 308 | 照日秋云迥，浮天渤澥宽。惊涛来似雪，一坐凛生寒。 309 | 310 | 主人新邸第，相国旧池台。馆是招贤辟，楼因教舞开。 311 | 轩车人已散，箫管凤初来。今日龙门下，谁知文举才。 312 | 313 | 水亭凉气多，闲棹晚来过。涧影见松竹，潭香闻芰荷。 314 | 野童扶醉舞，山鸟助酣歌。幽赏未云遍，烟光奈夕何。 315 | 316 | 故人来自远，邑宰复初临。执手恨为别，同舟无异心。 317 | 沿洄洲渚趣，演漾弦歌音。谁识躬耕者，年年梁甫吟。 318 | 319 | 共喜年华好，来游水石间。烟容开远树，春色满幽山。 320 | 壶酒朋情洽，琴歌野兴闲。莫愁归路暝，招月伴人还。 321 | 322 | 南纪西江阔，皇华御史雄。截流宁假楫，挂席自生风。 323 | 僚寀争攀鹢，鱼龙亦避骢。坐听白雪唱，翻入棹歌中。 324 | 325 | 万山青嶂曲，千骑使君游。神女鸣环佩，仙郎接献酬。 326 | 遍观云梦野，自爱江城楼。何必东南守，空传沈隐侯。 327 | 328 | 海亭秋日望，委曲见江山。染翰聊题壁，倾壶一解颜。 329 | 歌逢彭泽令，归赏故园间。予亦将琴史，栖迟共取闲。 330 | 331 | 河县柳林边，河桥晚泊船。文叨才子会，官喜故人连。 332 | 笑语同今夕，轻肥异往年。晨风理归棹，吴楚各依然。 333 | 334 | 傲吏非凡吏，名流即道流。隐居不可见，高论莫能酬。 335 | 水接仙源近，山藏鬼谷幽。再来迷处所，花下问渔舟。 336 | 337 | 龙象经行处，山腰度石关。屡迷青嶂合，时爱绿萝闲。 338 | 宴息花林下，高谈竹屿间。寥寥隔尘事，疑是入鸡山。 339 | 340 | 欣逢柏台友，共谒聪公禅。石室无人到，绳床见虎眠。 341 | 阴崖常抱雪，枯涧为生泉。出处虽云异，同欢在法筵。 342 | 343 | 出谷未停午，到家日已曛。回瞻下山路，但见牛羊群。 344 | 樵子暗相失，草虫寒不闻。衡门犹未掩，伫立望夫君。 345 | 346 | 夏日茅斋里，无风坐亦凉。竹林深笋穊，藤架引梢长。 347 | 燕觅巢窠处，蜂来造蜜房。物华皆可玩，花蕊四时芳。 348 | 349 | 释子弥天秀，将军武库才。横行塞北尽，独步汉南来。 350 | 贝叶传金口，山楼作赋开。因君振嘉藻，江楚气雄哉。 351 | 352 | 误入桃源里，初怜竹径深。方知仙子宅，未有世人寻。 353 | 舞鹤过闲砌，飞猿啸密林。渐通玄妙理，深得坐忘心。 354 | 355 | 支遁初求道，深公笑买山。何如石岩趣，自入户庭间。 356 | 苔涧春泉满，萝轩夜月闲。能令许玄度，吟卧不知还。 357 | 358 | 人事一朝尽，荒芜三径休。始闻漳浦卧，奄作岱宗游。 359 | 池水犹含墨，风云已落秋。今宵泉壑里，何处觅藏舟。 360 | 361 | 彭泽先生柳，山阴道士鹅。我来从所好，停策汉阴多。 362 | 重以观鱼乐，因之鼓枻歌。崔徐迹未朽，千载揖清波。 363 | 364 | 带雪梅初暖，含烟柳尚青。来窥童子偈，得听法王经。 365 | 会理知无我，观空厌有形。迷心应觉悟，客思未遑宁。 366 | 367 | 给园支遁隐，虚寂养身和。春晚群木秀，间关黄鸟歌。 368 | 林栖居士竹，池养右军鹅。炎月北窗下，清风期再过。 369 | 370 | 义公习禅处，结构依空林。户外一峰秀，阶前群壑深。 371 | 夕阳连雨足，空翠落庭阴。看取莲花净，应知不染心。 372 | 373 | 白鹤青岩半，幽人有隐居。阶庭空水石，林壑罢樵渔。 374 | 岁月青松老，风霜苦竹疏。睹兹怀旧业，回策返吾庐。 375 | 376 | 精舍买金开，流泉绕砌回。芰荷薰讲席，松柏映香台。 377 | 法雨晴飞去，天花昼下来。谈玄殊未已，归骑夕阳催。 378 | 379 | 池上青莲宇，林间白马泉。故人成异物，过客独潸然。 380 | 既礼新松塔，还寻旧石筵。平生竹如意，犹挂草堂前。 381 | 382 | 与君园庐并，微尚颇亦同。耕钓方自逸，壶觞趣不空。 383 | 门无俗士驾，人有上皇风。何处先贤传，惟称庞德公。 384 | 385 | 弱岁早登龙，今来喜再逢。如何春月柳，犹忆岁寒松。 386 | 烟火临寒食，笙歌达曙钟。喧喧斗鸡道，行乐羡朋从。 387 | 388 | 闻就庞公隐，移居近洞湖。兴来林是竹，归卧谷名愚。 389 | 挂席樵风便，开轩琴月孤。岁寒何用赏，霜落故园芜。 390 | 391 | 府僚能枉驾，家酝复新开。落日池上酌，清风松下来。 392 | 厨人具鸡黍，稚子摘杨梅。谁道山公醉，犹能骑马回。 393 | 394 | 折戟沈沙铁未销，自将磨洗认前朝。 395 | 东风不与周郎便，铜雀春深锁二乔。 396 | 397 | 日旗龙旆想飘扬，一索功高缚楚王。 398 | 直是超然五湖客，未如终始郭汾阳。 399 | 400 | 贱子来千里，明公去一麾。可能休涕泪，岂独感恩知。 401 | 草木穷秋后，山川落照时。如何望故国，驱马却迟迟。 402 | 403 | 一笑五云溪上舟，跳丸日月十经秋。鬓衰酒减欲谁泥， 404 | 迹辱魂惭好自尤。梦寐几回迷蛱蝶，文章应解伴牢愁。 405 | 无穷尘土无聊事，不得清言解不休。 406 | 407 | 烟笼寒水月笼沙，夜泊秦淮近酒家。 408 | 商女不知亡国恨，隔江犹唱后庭花。 409 | 410 | 萧萧山路穷秋雨，淅淅溪风一岸蒲。 411 | 为问寒沙新到雁，来时还下杜陵无。 412 | 413 | 细腰宫里露桃新，脉脉无言度几春。 414 | 至竟息亡缘底事，可怜金谷坠楼人。 415 | 416 | 雪涨前溪水，啼声已绕滩。梅衰未减态，春嫩不禁寒。 417 | 迹去梦一觉，年来事百般。闻君亦多感，何处倚阑干。 418 | 419 | 平生自许少尘埃，为吏尘中势自回。朱绂久惭官借与， 420 | 白题还叹老将来。须知世路难轻进，岂是君门不大开。 421 | 霄汉几多同学伴，可怜头角尽卿材。 422 | 423 | 缄书报子玉，为我谢平津。自愧扫门士，谁为乞火人。 424 | 词臣陪羽猎，战将骋骐驎。两地差池恨，江汀醉送君。 425 | 426 | 芳草渡头微雨时，万株杨柳拂波垂。蒲根水暖雁初浴， 427 | 梅径香寒蜂未知。辞客倚风吟暗淡，使君回马湿旌旗。 428 | 江南仲蔚多情调，怅望春阴几首诗。 429 | 430 | 江湖醉渡十年春，牛渚山边六问津。 431 | 历阳前事知何实，高位纷纷见陷人。 432 | 433 | 胜败兵家事不期，包羞忍耻是男儿。 434 | 435 | 孙家兄弟晋龙骧，驰骋功名业帝王。 436 | 至竟江山谁是主，苔矶空属钓鱼郎。 437 | 438 | 发匀肉好生春岭，截玉钻星寄使君。檀的染时痕半月， 439 | 落梅飘处响穿云。楼中威凤倾冠听，沙上惊鸿掠水分。 440 | 遥想紫泥封诏罢，夜深应隔禁墙闻。 441 | 442 | 青山隐隐水迢迢，秋尽江南草木凋。 443 | 二十四桥明月夜，玉人何处教吹箫。 444 | 445 | 故人别来面如雪，一榻拂云秋影中。 446 | 玉白花红三百首，五陵谁唱与春风。 447 | 448 | 贾傅松醪酒，秋来美更香。怜君片云思，一去绕潇湘。 449 | 450 | 一渠东注芳华苑，苑锁池塘百岁空。 451 | 水殿半倾蟾口涩，为谁流下蓼花中。 452 | 453 | 锦缆龙舟隋炀帝，平台复道汉梁王。 454 | 游人闲起前朝念，折柳孤吟断杀肠。 455 | 456 | 千里长河初冻时，玉珂瑶珮响参差。 457 | 浮生却似冰底水，日夜东流人不知。 458 | 459 | 七子论诗谁似公，曹刘须在指挥中。荐衡昔日知文举， 460 | 乞火无人作蒯通。北极楼台长挂梦，西江波浪远吞空。 461 | 可怜故国三千里，虚唱歌词满六宫。 462 | 463 | 大夫官重醉江东，潇洒名儒振古风。文石陛前辞圣主。 464 | 碧云天外作冥鸿。五言宁谢颜光禄，百岁须齐卫武公。 465 | 再拜宜同丈人行，过庭交分有无同。 466 | 467 | 水接西江天外声，小斋松影拂云平。 468 | 何人教我吹长笛，与倚春风弄月明。 469 | 470 | 广文遗韵留樗散，鸡犬图书共一船。 471 | 自说江湖不归事，阻风中酒过年年。 472 | 473 | 三吴裂婺女，九锡狱孤儿。霸主业未半，本朝心是谁。 474 | 永安宫受诏，筹笔驿沉思。画地乾坤在，濡毫胜负知。 475 | 艰难同草创，得失计毫厘。寂默经千虑，分明浑一期。 476 | 川流萦智思，山耸助扶持。慷慨匡时略，从容问罪师。 477 | 褒中秋鼓角，渭曲晚旌旗。仗义悬无敌，鸣攻故有辞。 478 | 若非天夺去，岂复虑能支。子夜星才落，鸿毛鼎便移。 479 | 邮亭世自换，白日事长垂。何处躬耕者，犹题殄瘁诗。 480 | 481 | 邮亭寄人世，人世寄邮亭。何如自筹度，鸿路有冥冥。 482 | 483 | 少微星动照春云，魏阙衡门路自分。 484 | 倏去忽来应有意，世间尘土谩疑君。 485 | 486 | 调高银字声还侧，物比柯亭韵校奇。 487 | 寄与玉人天上去，桓将军见不教吹。 488 | 489 | 历阳崔太守，何日不含情。恩义同钟李，埙篪实弟兄。 490 | 光尘能混合，擘画最分明。台阁仁贤誉，闺门孝友声。 491 | 西方像教毁，南海绣衣行。金橐宁回顾，珠簟肯一枨。 492 | 只宜裁密诏，何自取专城。进退无非道，徊翔必有名。 493 | 好风初婉软，离思苦萦盈。金马旧游贵，桐庐春水生。 494 | 雨侵寒牖梦，梅引冻醪倾。共祝中兴主，高歌唱太平 495 | 纨袴不饿死，儒冠多误身。丈人试静听，贱子请具陈。 496 | 甫昔少年日，早充观国宾。读书破万卷，下笔如有神。 497 | 赋料扬雄敌，诗看子建亲。李邕求识面，王翰愿卜邻。 498 | 自谓颇挺出，立登要路津。致君尧舜上，再使风俗淳。 499 | 此意竟萧条，行歌非隐沦。骑驴三十载，旅食京华春。 500 | 朝扣富儿门，暮随肥马尘。残杯与冷炙，到处潜悲辛。 501 | 主上顷见征，欻然欲求伸。青冥却垂翅，蹭蹬无纵鳞。 502 | 甚愧丈人厚，甚知丈人真。每于百僚上，猥诵佳句新。 503 | 窃效贡公喜，难甘原宪贫。焉能心怏怏，只是走踆踆。 504 | 今欲东入海，即将西去秦。尚怜终南山，回首清渭滨。 505 | 常拟报一饭，况怀辞大臣。白鸥没浩荡，万里谁能驯。 506 | 507 | 崆峒小麦熟，且愿休王师。请公问主将，焉用穷荒为。 508 | 饥鹰未饱肉，侧翅随人飞。高生跨鞍马，有似幽并儿。 509 | 脱身簿尉中，始与捶楚辞。借问今何官，触热向武威。 510 | 答云一书记，所愧国士知。人实不易知，更须慎其仪。 511 | 十年出幕府，自可持旌麾。此行既特达，足以慰所思。 512 | 男儿功名遂，亦在老大时。常恨结欢浅，各在天一涯。 513 | 又如参与商，惨惨中肠悲。惊风吹鸿鹄，不得相追随。 514 | 黄尘翳沙漠，念子何当归。边城有馀力，早寄从军诗。 515 | 二年客东都，所历厌机巧。野人对膻腥，蔬食常不饱。 516 | 岂无青精饭，使我颜色好。苦乏大药资，山林迹如扫。 517 | 李侯金闺彦，脱身事幽讨。亦有梁宋游，方期拾瑶草。 518 | 已从招提游，更宿招提境。阴壑生虚籁，月林散清影。 519 | 天阙象纬逼，云卧衣裳冷。欲觉闻晨钟，令人发深省。 520 | 521 | 岱宗夫如何，齐鲁青未了。造化钟神秀，阴阳割昏晓。 522 | 荡胸生曾云，决眦入归鸟。会当凌绝顶，一览众山小。 523 | 东藩驻皂盖，北渚凌青荷。海内此亭古，济南名士多。 524 | 云山已发兴，玉佩仍当歌。修竹不受暑，交流空涌波。 525 | 蕴真惬所遇，落日将如何。贵贱俱物役，从公难重过。 526 | 新亭结构罢，隐见清湖阴。迹籍台观旧，气溟海岳深。 527 | 圆荷想自昔，遗堞感至今。芳宴此时具，哀丝千古心。 528 | 主称寿尊客，筵秩宴北林。不阻蓬荜兴，得兼梁甫吟。 529 | 故人昔隐东蒙峰，已佩含景苍精龙。故人今居子午谷， 530 | 独在阴崖结茅屋。屋前太古玄都坛，青石漠漠常风寒。 531 | 子规夜啼山竹裂，王母昼下云旗翻。知君此计成长往， 532 | 芝草琅玕日应长。铁锁高垂不可攀，致身福地何萧爽。 533 | 534 | 今夕何夕岁云徂，更长烛明不可孤。咸阳客舍一事无， 535 | 相与博塞为欢娱。冯陵大叫呼五白，袒跣不肯成枭卢。 536 | 英雄有时亦如此，邂逅岂即非良图。 537 | 君莫笑刘毅从来布衣愿，家无儋石输百万。 538 | 539 | 翻手作云覆手雨，纷纷轻薄何须数。君不见管鲍贫时交， 540 | 此道今人弃如土。 541 | 542 | 车辚辚，马萧萧，行人弓箭各在腰。耶娘妻子走相送， 543 | 尘埃不见咸阳桥。牵衣顿足阑道哭，哭声直上干云霄。 544 | 道傍过者问行人，行人但云点行频。或从十五北防河， 545 | 便至四十西营田。去时里正与裹头，归来头白还戍边。 546 | 边亭流血成海水，武皇开边意未已。 547 | 君不闻汉家山东二百州，千村万落生荆杞。 548 | 纵有健妇把锄犁，禾生陇亩无东西。况复秦兵耐苦战， 549 | 被驱不异犬与鸡。长者虽有问，役夫敢申恨。 550 | 且如今年冬，未休关西卒。县官急索租，租税从何出。 551 | 信知生男恶，反是生女好。生女犹是嫁比邻， 552 | 生男埋没随百草。君不见青海头，古来白骨无人收。 553 | 新鬼烦冤旧鬼哭，天阴雨湿声啾啾。 554 | 555 | 安西都护胡青骢，声价欻然来向东。此马临阵久无敌， 556 | 与人一心成大功。功成惠养随所致，飘飘远自流沙至。 557 | 雄姿未受伏枥恩，猛气犹思战场利。腕促蹄高如踣铁， 558 | 交河几蹴曾冰裂。五花散作云满身，万里方看汗流血。 559 | 长安壮儿不敢骑，走过掣电倾城知。青丝络头为君老， 560 | 何由却出横门道。 561 | 562 | 吾闻天子之马走千里，今之画图无乃是。 563 | 是何意态雄且杰，骏尾萧梢朔风起。毛为绿缥两耳黄， 564 | 眼有紫焰双瞳方。矫矫龙性合变化，卓立天骨森开张。 565 | 伊昔太仆张景顺，监牧攻驹阅清峻。遂令大奴守天育， 566 | 别养骥子怜神俊。当时四十万匹马，张公叹其材尽下。 567 | 故独写真传世人，见之座右久更新。年多物化空形影， 568 | 呜呼健步无由骋。如今岂无騕褭与骅骝， 569 | 时无王良伯乐死即休。 570 | 571 | 缫丝须长不须白，越罗蜀锦金粟尺。象床玉手乱殷红， 572 | 万草千花动凝碧。已悲素质随时染，裂下鸣机色相射。 573 | 美人细意熨帖平，裁缝灭尽针线迹。春天衣著为君舞， 574 | 蛱蝶飞来黄鹂语。落絮游丝亦有情，随风照日宜轻举。 575 | 香汗轻尘污颜色，开新合故置何许。君不见才士汲引难， 576 | 恐惧弃捐忍羁旅。 577 | 578 | 雨中百草秋烂死，阶下决明颜色鲜。著叶满枝翠羽盖， 579 | 开花无数黄金钱。凉风萧萧吹汝急，恐汝后时难独立。 580 | 堂上书生空白头，临风三嗅馨香泣。 581 | 582 | 阑风长雨秋纷纷，四海八荒同一云。去马来牛不复辨， 583 | 浊泾清渭何当分。禾头生耳黍穗黑，农夫田妇无消息。 584 | 城中斗米换衾裯，相许宁论两相直。 585 | 长安布衣谁比数，反锁衡门守环堵。老夫不出长蓬蒿， 586 | 稚子无忧走风雨。雨声飕飕催早寒，胡雁翅湿高飞难。 587 | 秋来未曾见白日，泥污后土何时干。 588 | 589 | 檐前甘菊移时晚，青蕊重阳不堪摘。明日萧条醉尽醒， 590 | 残花烂熳开何益。篱边野外多众芳，采撷细琐升中堂。 591 | 念兹空长大枝叶，结根失所缠风霜。 592 | 593 | 诸公衮衮登台省，广文先生官独冷。甲第纷纷厌粱肉， 594 | 广文先生饭不足。先生有道出羲皇，先生有才过屈宋。 595 | 德尊一代常轗轲，名垂万古知何用。杜陵野客人更嗤， 596 | 被褐短窄鬓如丝。日籴太仓五升米，时赴郑老同襟期。 597 | 得钱即相觅，沽酒不复疑。忘形到尔汝，痛饮真吾师。 598 | 清夜沈沈动春酌，灯前细雨檐花落。但觉高歌有鬼神， 599 | 焉知饿死填沟壑。相如逸才亲涤器，子云识字终投阁。 600 | 先生早赋归去来，石田茅屋荒苍苔。儒术于我何有哉， 601 | 孔丘盗跖俱尘埃。不须闻此意惨怆，生前相遇且衔杯。 602 | 603 | 陆机二十作文赋，汝更小年能缀文。总角草书又神速， 604 | 世上儿子徒纷纷。骅骝作驹已汗血，鸷鸟举翮连青云。 605 | 词源倒流三峡水，笔阵独扫千人军。只今年才十六七， 606 | 射策君门期第一。旧穿杨叶真自知，暂蹶霜蹄未为失。 607 | 偶然擢秀非难取，会是排风有毛质。汝身已见唾成珠， 608 | 汝伯何由发如漆。春光澹沱秦东亭，渚蒲牙白水荇青。 609 | 风吹客衣日杲杲，树搅离思花冥冥。酒尽沙头双玉瓶， 610 | 众宾皆醉我独醒。乃知贫贱别更苦，吞声踯躅涕泪零。 611 | 人生不相见，动如参与商。今夕复何夕，共此灯烛光。 612 | 少壮能几时，鬓发各已苍。访旧半为鬼，惊呼热中肠。 613 | 焉知二十载，重上君子堂。昔别君未婚，儿女忽成行。 614 | 怡然敬父执，问我来何方。问答乃未已，儿女罗酒浆。 615 | 夜雨翦春韭，新炊间黄粱。主称会面难，一举累十觞。 616 | 十觞亦不醉，感子故意长。明日隔山岳，世事两茫茫。 617 | 618 | 今秋乃淫雨，仲月来寒风。群木水光下，万象云气中。 619 | 所思碍行潦，九里信不通。悄悄素浐路，迢迢天汉东。 620 | 愿腾六尺马，背若孤征鸿。划见公子面，超然欢笑同。 621 | 奋飞既胡越，局促伤樊笼。一饭四五起，凭轩心力穷。 622 | 嘉蔬没混浊，时菊碎榛丛。鹰隼亦屈猛，乌鸢何所蒙。 623 | 式瞻北邻居，取适南巷翁。挂席钓川涨，焉知清兴终。 624 | 高标跨苍天，烈风无时休。自非旷士怀，登兹翻百忧。 625 | 方知象教力，足可追冥搜。仰穿龙蛇窟，始出枝撑幽。 626 | 七星在北户，河汉声西流。羲和鞭白日，少昊行清秋。 627 | 秦山忽破碎，泾渭不可求。俯视但一气，焉能辨皇州。 628 | 回首叫虞舜，苍梧云正愁。惜哉瑶池饮，日晏昆仑丘。 629 | 黄鹄去不息，哀鸣何所投。君看随阳雁，各有稻粱谋。 630 | 631 | 平明跨驴出，未知适谁门。权门多噂eR，且复寻诸孙。 632 | 诸孙贫无事，宅舍如荒村。堂前自生竹，堂后自生萱。 633 | 萱草秋已死，竹枝霜不蕃。淘米少汲水，汲多井水浑。 634 | 刈葵莫放手，放手伤葵根。阿翁懒惰久，觉儿行步奔。 635 | 所来为宗族，亦不为盘飧。小人利口实，薄俗难可论。 636 | 勿受外嫌猜，同姓古所敦。 637 | 638 | 出门复入门，两脚但如旧。所向泥活活，思君令人瘦。 639 | 沉吟坐西轩，饮食错昏昼。寸步曲江头，难为一相就。 640 | 吁嗟呼苍生，稼穑不可救。安得诛云师，畴能补天漏。 641 | 大明韬日月，旷野号禽兽。君子强逶迤，小人困驰骤。 642 | 维南有崇山，恐与川浸溜。是节东篱菊，纷披为谁秀。 643 | 岑生多新诗，性亦嗜醇酎。采采黄金花，何由满衣袖。 644 | 645 | 巢父掉头不肯住，东将入海随烟雾。诗卷长留天地间， 646 | 钓竿欲拂珊瑚树。深山大泽龙蛇远，春寒野阴风景暮。 647 | 蓬莱织女回云车，指点虚无是征路。自是君身有仙骨， 648 | 世人那得知其故。惜君只欲苦死留，富贵何如草头露。 649 | 蔡侯静者意有馀，清夜置酒临前除。罢琴惆怅月照席， 650 | 几岁寄我空中书。南寻禹穴见李白，道甫问信今何如。 651 | 知章骑马似乘船，眼花落井水底眠。汝阳三斗始朝天， 652 | 道逢麹车口流涎，恨不移封向酒泉。左相日兴费万钱， 653 | 饮如长鲸吸百川，衔杯乐圣称世贤。宗之潇洒美少年， 654 | 举觞白眼望青天，皎如玉树临风前。苏晋长斋绣佛前， 655 | 醉中往往爱逃禅。李白一斗诗百篇，长安市上酒家眠。 656 | 天子呼来不上船，自称臣是酒中仙。张旭三杯草圣传， 657 | 脱帽露顶王公前，挥毫落纸如云烟。焦遂五斗方卓然， 658 | 高谈雄辨惊四筵。 659 | 660 | 曲江萧条秋气高，菱荷枯折随风涛，游子空嗟垂二毛。 661 | 白石素沙亦相荡，哀鸿独叫求其曹。 662 | 即事非今亦非古，长歌激越梢林莽，比屋豪华固难数。 663 | 吾人甘作心似灰，弟侄何伤泪如雨。 664 | 665 | 自断此生休问天，杜曲幸有桑麻田，故将移住南山边。 666 | 短衣匹马随李广，看射猛虎终残年。 667 | 三月三日天气新，长安水边多丽人。态浓意远淑且真， 668 | 肌理细腻骨肉匀。绣罗衣裳照暮春，蹙金孔雀银麒麟。 669 | 头上何所有，翠微zc叶垂鬓唇。背后何所见， 670 | 珠压腰衱稳称身。就中云幕椒房亲，赐名大国虢与秦。 671 | 紫驼之峰出翠釜，水精之盘行素鳞。犀箸厌饫久未下， 672 | 銮刀缕切空纷纶。黄门飞鞚不动尘，御厨络绎送八珍。 673 | 箫鼓哀吟感鬼神，宾从杂遝实要津。后来鞍马何逡巡， 674 | 当轩下马入锦茵。杨花雪落覆白蘋，青鸟飞去衔红巾。 675 | 炙手可热势绝伦，慎莫近前丞相嗔。 676 | 677 | 乐游古园崒森爽，烟绵碧草萋萋长。公子华筵势最高， 678 | 秦川对酒平如掌。长生木瓢示真率，更调鞍马狂欢赏。 679 | 青春波浪芙蓉园，白日雷霆夹城仗。阊阖晴开昳荡荡， 680 | 曲江翠幕排银榜。拂水低徊舞袖翻，缘云清切歌声上。 681 | 却忆年年人醉时，只今未醉已先悲。数茎白发那抛得， 682 | 百罚深杯亦不辞。圣朝亦知贱士丑，一物自荷皇天慈。 683 | 此身饮罢无归处，独立苍茫自咏诗。 684 | 685 | 岑参兄弟皆好奇，携我远来游渼陂。天地黤惨忽异色， 686 | 波涛万顷堆琉璃。琉璃汗漫泛舟入，事殊兴极忧思集。 687 | 鼍作鲸吞不复知，恶风白浪何嗟及。主人锦帆相为开， 688 | 舟子喜甚无氛埃。凫鹥散乱棹讴发，丝管啁啾空翠来。 689 | 沈竿续蔓深莫测，菱叶荷花静如拭。宛在中流渤澥清， 690 | 下归无极终南黑。半陂已南纯浸山，动影袅窕冲融间。 691 | 船舷暝戛云际寺，水面月出蓝田关。此时骊龙亦吐珠， 692 | 冯夷击鼓群龙趋。湘妃汉女出歌舞，金支翠旗光有无。 693 | 咫尺但愁雷雨至，苍茫不晓神灵意。少壮几时奈老何， 694 | 向来哀乐何其多。 695 | 696 | 高台面苍陂，六月风日冷。蒹葭离披去，天水相与永。 697 | 怀新目似击，接要心已领。仿像识鲛人，空蒙辨鱼艇。 698 | 错磨终南翠，颠倒白阁影。崷崒增光辉，乘陵惜俄顷。 699 | 劳生愧严郑，外物慕张邴。世复轻骅骝，吾甘杂蛙黾。 700 | 知归俗可忽，取适事莫并。身退岂待官，老来苦便静。 701 | 况资菱芡足，庶结茅茨迥。从此具扁舟，弥年逐清景。 702 | 广文到官舍，系马堂阶下。醉则骑马归，颇遭官长骂。 703 | 才名四十年，坐客寒无毡。赖有苏司业，时时与酒钱。 704 | 705 | 远林暑气薄，公子过我游。贫居类村坞，僻近城南楼。 706 | 旁舍颇淳朴，所愿亦易求。隔屋唤西家，借问有酒不。 707 | 墙头过浊醪，展席俯长流。清风左右至，客意已惊秋。 708 | 巢多众鸟斗，叶密鸣蝉稠。苦道此物聒，孰谓吾庐幽。 709 | 水花晚色静，庶足充淹留。预恐尊中尽，更起为君谋。 710 | 711 | 东山气鸿濛，宫殿居上头。君来必十月，树羽临九州。 712 | 阴火煮玉泉，喷薄涨岩幽。有时浴赤日，光抱空中楼。 713 | 阆风入辙迹，旷原延冥搜。沸天万乘动，观水百丈湫。 714 | 幽灵斯可佳，王命官属休。初闻龙用壮，擘石摧林丘。 715 | 中夜窟宅改，移因风雨秋。倒悬瑶池影，屈注苍江流。 716 | 味如甘露浆，挥弄滑且柔。翠旗澹偃蹇，云车纷少留。 717 | 箫鼓荡四溟，异香泱漭浮。鲛人献微绡，曾祝沈豪牛。 718 | 百祥奔盛明，古先莫能俦。坡陀金虾蟆，出见盖有由。 719 | 至尊顾之笑，王母不肯收。复归虚无底，化作长黄虬。 720 | 飘飘青琐郎，文彩珊瑚钩。浩歌渌水曲，清绝听者愁。 721 | 许生五台宾，业白出石壁。余亦师粲可，身犹缚禅寂。 722 | 何阶子方便，谬引为匹敌。离索晚相逢，包蒙欣有击。 723 | 诵诗浑游衍，四座皆辟易。应手看捶钩，清心听鸣镝。 724 | 精微穿溟涬，飞动摧霹雳。陶谢不枝梧，风骚共推激。 725 | 紫燕自超诣，翠驳谁剪剔。君意人莫知，人间夜寥阒。 726 | 先帝昔晏驾，兹山朝百灵。崇冈拥象设，沃野开天庭。 727 | 即事壮重险，论功超五丁。坡陀因厚地，却略罗峻屏。 728 | 云阙虚冉冉，风松肃泠泠。石门霜露白，玉殿莓苔青。 729 | 宫女晚知曙，祠官朝见星。空梁簇画戟，阴井敲铜瓶。 730 | 中使日夜继，惟王心不宁。岂徒恤备享，尚谓求无形。 731 | 孝理敦国政，神凝推道经。瑞芝产庙柱，好鸟鸣岩扃。 732 | 高岳前嵂崒，洪河左滢濙。金城蓄峻址，沙苑交回汀。 733 | 永与奥区固，川原纷眇冥。居然赤县立，台榭争岧亭。 734 | 官属果称是，声华真可听。王刘美竹润，裴李春兰馨。 735 | 郑氏才振古，啖侯笔不停。遣辞必中律，利物常发硎。 736 | 绮绣相展转，琳琅愈青荧。侧闻鲁恭化，秉德崔瑗铭。 737 | 太史候凫影，王乔随鹤翎。朝仪限霄汉，容思回林坰。 738 | 轗轲辞下杜，飘飖陵浊泾。诸生旧短褐，旅泛一浮萍。 739 | 荒岁儿女瘦，暮途涕泗零。主人念老马，廨署容秋萤。 740 | 流寓理岂惬，穷愁醉未醒。何当摆俗累，浩荡乘沧溟。 741 | 君不见左辅白沙如白水，缭以周墙百馀里。 742 | 龙媒昔是渥洼生，汗血今称献于此。苑中騋牝三千匹， 743 | 丰草青青寒不死。食之豪健西域无，每岁攻驹冠边鄙。 744 | 王有虎臣司苑门，入门天厩皆云屯。骕骦一骨独当御， 745 | 春秋二时归至尊。至尊内外马盈亿，伏枥在坰空大存。 746 | 逸群绝足信殊杰，倜傥权奇难具论。累累塠阜藏奔突， 747 | 往往坡陀纵超越。角壮翻同麋鹿游，浮深簸荡鼋鼍窟。 748 | 泉出巨鱼长比人，丹砂作尾黄金鳞。岂知异物同精气， 749 | 虽未成龙亦有神。 750 | 邓公马癖人共知，初得花骢大宛种。夙昔传闻思一见， 751 | 牵来左右神皆竦。雄姿逸态何崷崒，顾影骄嘶自矜宠。 752 | 隅目青荧夹镜悬，肉骏碨礌连钱动。朝来久试华轩下， 753 | 未觉千金满高价。赤汗微生白雪毛，银鞍却覆香罗帕。 754 | 卿家旧赐公取之，天厩真龙此其亚。昼洗须腾泾渭深， 755 | 朝趋可刷幽并夜。吾闻良骥老始成，此马数年人更惊。 756 | 岂有四蹄疾于鸟，不与八骏俱先鸣。时俗造次那得致， 757 | 云雾晦冥方降精。近闻下诏喧都邑，肯使骐驎地上行。 758 | 759 | 君不见鞲上鹰，一饱则飞掣。焉能作堂上燕， 760 | 衔泥附炎热。野人旷荡无靦颜，岂可久在王侯间。 761 | 未试囊中餐玉法，明朝且入蓝田山。 762 | 763 | 杜陵有布衣，老大意转拙。许身一何愚，窃比稷与契。 764 | 居然成濩落，白首甘契阔。盖棺事则已，此志常觊豁。 765 | 穷年忧黎元，叹息肠内热。取笑同学翁，浩歌弥激烈。 766 | 非无江海志，萧洒送日月。生逢尧舜君，不忍便永诀。 767 | 当今廊庙具，构厦岂云缺。葵藿倾太阳，物性固莫夺。 768 | 顾惟蝼蚁辈，但自求其穴。胡为慕大鲸，辄拟偃溟渤。 769 | 以兹悟生理，独耻事干谒。兀兀遂至今，忍为尘埃没。 770 | 终愧巢与由，未能易其节。沈饮聊自适，放歌颇愁绝。 771 | 岁暮百草零，疾风高冈裂。天衢阴峥嵘，客子中夜发。 772 | 霜严衣带断，指直不得结。凌晨过骊山，御榻在嵽嵲。 773 | 蚩尤塞寒空，蹴蹋崖谷滑。瑶池气郁律，羽林相摩戛。 774 | 君臣留欢娱，乐动殷樛嶱。赐浴皆长缨，与宴非短褐。 775 | 彤庭所分帛，本自寒女出。鞭挞其夫家，聚敛贡城阙。 776 | 圣人筐篚恩，实欲邦国活。臣如忽至理，君岂弃此物。 777 | 多士盈朝廷，仁者宜战栗。况闻内金盘，尽在卫霍室。 778 | 中堂舞神仙，烟雾散玉质。暖客貂鼠裘，悲管逐清瑟。 779 | 劝客驼蹄羹，霜橙压香橘。朱门酒肉臭，路有冻死骨。 780 | 荣枯咫尺异，惆怅难再述。北辕就泾渭，官渡又改辙。 781 | 群冰从西下，极目高崒兀。疑是崆峒来，恐触天柱折。 782 | 河梁幸未坼，枝撑声窸窣。行旅相攀援，川广不可越。 783 | 老妻寄异县，十口隔风雪。谁能久不顾，庶往共饥渴。 784 | 入门闻号咷，幼子饥已卒。吾宁舍一哀，里巷亦呜咽。 785 | 所愧为人父，无食致夭折。岂知秋未登，贫窭有仓卒。 786 | 生常免租税，名不隶征伐。抚迹犹酸辛，平人固骚屑。 787 | 默思失业徒，因念远戍卒。忧端齐终南，澒洞不可掇。 788 | 789 | 堂上不合生枫树，怪底江山起烟雾。闻君扫却赤县图， 790 | 乘兴遣画沧洲趣。画师亦无数，好手不可遇。 791 | 对此融心神。知君重毫素。岂但祁岳与郑虔， 792 | 笔迹远过杨契丹。得非悬圃裂，无乃潇湘翻。 793 | 悄然坐我天姥下，耳边已似闻清猿。反思前夜风雨急， 794 | 乃是蒲城鬼神入。元气淋漓障犹湿，真宰上诉天应泣。 795 | 野亭春还杂花远，渔翁暝蹋孤舟立。沧浪水深青溟阔， 796 | 欹岸侧岛秋毫末。不见湘妃鼓瑟时，至今斑竹临江活。 797 | 刘侯天机精，爱画入骨髓。自有两儿郎，挥洒亦莫比。 798 | 大儿聪明到，能添老树巅崖里。小儿心孔开。 799 | 貌得山僧及童子。若耶溪，云门寺。 800 | 吾独胡为在泥滓，青鞋布袜从此始。 801 | 客从南县来，浩荡无与适。旅食白日长，况当朱炎赫。 802 | 高斋坐林杪，信宿游衍阒。清晨陪跻攀，傲睨俯峭壁。 803 | 崇冈相枕带，旷野怀咫尺。始知贤主人，赠此遣愁寂。 804 | 危阶根青冥，曾冰生淅沥。上有无心云，下有欲落石。 805 | 泉声闻复急，动静随所击。鸟呼藏其身，有似惧弹射。 806 | 吏隐道性情，兹焉其窟宅。白水见舅氏，诸翁乃仙伯。 807 | 杖藜长松阴，作尉穷谷僻。为我炊雕胡，逍遥展良觌。 808 | 坐久风颇愁，晚来山更碧。相对十丈蛟，欻翻盘涡坼。 809 | 何得空里雷，殷殷寻地脉。烟氛蔼崷崒，魍魉森惨戚。 810 | 昆仑崆峒颠，回首如不隔。前轩颓反照，巉绝华岳赤。 811 | 兵气涨林峦，川光杂锋镝。知是相公军，铁马云雾积。 812 | 玉觞淡无味，胡羯岂强敌。长歌激屋梁，泪下流衽席。 813 | 人生半哀乐，天地有顺逆。慨彼万国夫，休明备征狄。 814 | 猛将纷填委，庙谋蓄长策。东郊何时开，带甲且来释。 815 | 欲告清宴罢，难拒幽明迫。三叹酒食旁，何由似平昔。 816 | 我经华原来，不复见平陆。北上唯土山，连山走穷谷。 817 | 火云无时出，飞电常在目。自多穷岫雨，行潦相豗蹙。 818 | 蓊匌川气黄，群流会空曲。清晨望高浪，忽谓阴崖踣。 819 | 恐泥窜蛟龙，登危聚麋鹿。枯查卷拔树，礧磈共充塞。 820 | 声吹鬼神下，势阅人代速。不有万穴归，何以尊四渎。 821 | 及观泉源涨，反惧江海覆。漂沙坼岸去，漱壑松柏秃。 822 | 乘陵破山门，回斡裂地轴。交洛赴洪河，及关岂信宿。 823 | 应沈数州没，如听万室哭。秽浊殊未清，风涛怒犹蓄。 824 | 何时通舟车，阴气不黪黩。浮生有荡汩，吾道正羁束。 825 | 人寰难容身，石壁滑侧足。云雷此不已，艰险路更跼。 826 | 普天无川梁，欲济愿水缩。因悲中林士，未脱众鱼腹。 827 | 举头向苍天，安得骑鸿鹄。 828 | 829 | 孟冬十郡良家子，血作陈陶泽中水。野旷天清无战声， 830 | 四万义军同日死。群胡归来血洗箭，仍唱胡歌饮都市。 831 | 都人回面向北啼，日夜更望官军至。 832 | 833 | 我军青坂在东门，天寒饮马太白窟。黄头奚儿日向西， 834 | 数骑弯弓敢驰突。山雪河冰野萧瑟，青是烽烟白人骨。 835 | 焉得附书与我军，忍待明年莫仓卒。 836 | 837 | 少陵野老吞声哭，春日潜行曲江曲。江头宫殿锁千门， 838 | 细柳新蒲为谁绿。忆昔霓旌下南苑，苑中万物生颜色。 839 | 昭阳殿里第一人，同辇随君侍君侧。辇前才人带弓箭， 840 | 白马嚼啮黄金勒。翻身向天仰射云，一箭正坠双飞翼。 841 | 明眸皓齿今何在，血污游魂归不得。清渭东流剑阁深， 842 | 去住彼此无消息。人生有情泪沾臆，江水江花岂终极。 843 | 黄昏胡骑尘满城，欲往城南忘南北。 844 | 845 | 长安城头头白乌，夜飞延秋门上呼。又向人家啄大屋， 846 | 屋底达官走避胡。金鞭断折九马死。骨肉不待同驰驱。 847 | 腰下宝玦青珊瑚，可怜王孙泣路隅。问之不肯道姓名， 848 | 但道困苦乞为奴。已经百日窜荆棘，身上无有完肌肤。 849 | 高帝子孙尽隆准，龙种自与常人殊。豺狼在邑龙在野。 850 | 王孙善保千金躯。不敢长语临交衢，且为王孙立斯须。 851 | 昨夜东风吹血腥，东来橐驼满旧都。朔方健儿好身手， 852 | 昔何勇锐今何愚。窃闻天子已传位，圣德北服南单于。 853 | 花门kO面请雪耻，慎勿出口他人狙。哀哉王孙慎勿疏， 854 | 五陵佳气无时无。 855 | 心在水精域，衣沾春雨时。洞门尽徐步，深院果幽期。 856 | 到扉开复闭，撞钟斋及兹。醍醐长发性，饮食过扶衰。 857 | 把臂有多日，开怀无愧辞。黄鹂度结构，紫鸽下罘罳。 858 | 愚意会所适，花边行自迟。汤休起我病，微笑索题诗。 859 | 860 | 细软青丝履，光明白氎巾。深藏供老宿，取用及吾身。 861 | 自顾转无趣，交情何尚新。道林才不世，惠远德过人。 862 | 雨泻暮檐竹，风吹青井芹。天阴对图画，最觉润龙鳞。 863 | 灯影照无睡，心清闻妙香。夜深殿突兀，风动金锒铛。 864 | 天黑闭春院，地清栖暗芳。玉绳回断绝，铁凤森翱翔。 865 | 梵放时出寺，钟残仍殷床。明朝在沃野，苦见尘沙黄。 866 | 867 | 童儿汲井华，惯捷瓶上手。沾洒不濡地，扫除似无帚。 868 | 明霞烂复阁，霁雾搴高牖。侧塞被径花，飘飖委墀柳。 869 | 艰难世事迫，隐遁佳期后。晤语契深心，那能总箝口。 870 | 奉辞还杖策，暂别终回首。泱泱泥污人，听听国多狗。 871 | 既未免羁绊，时来憩奔走。近公如白雪，执热烦何有。 -------------------------------------------------------------------------------- /文本分类.md: -------------------------------------------------------------------------------- 1 | ## 文本分类 2 | 3 | 教师：[邱锡鹏](http://nlp.fudan.edu.cn/xpqiu) 微博：[@邱锡鹏](http://weibo.com/xpqiu) 4 | 5 | 版权声明：本文为复旦nlp组施展根据课堂内容整理的原创文章，转载请注明出处。 6 | 7 | 8 | 9 | ### 1 文本分类任务简介 10 | 11 | ​ 在有监督学习中,需要提供一组有类别标记的样本用来学习模型以及检验模型的好 坏。这组样本集合就称为数据集。数据集用 $X$ 表示,$X = {(x^1 , y^1 ), · · · , (x^N , y^N )}$,N 为 样本个数。$y^i$ 为样本实例 $x^i$ 的类别标记。在自然语言处理中,数据集也经常称为语料库。 12 | 13 | 其中$x^i$的为一组文本，$y^i$可以是一组标签如词性，也可以是一个标签如文本的类别 14 | $$ 15 | x^i = (w_1...w_t...w_T)\\ 16 | y^i=(p_1...p_t...p_T) 17 | $$ 18 | 使用机器学习方法－即找到这样一个映射f， 使得$x^{i}->y^{i}$ 19 | 20 | ### 2 向量化 21 | 22 | ​ 在机器学习算法中,样本实例一般是以连续变量或离散变量的形式存在的(也称为 特征),而在自然语言处理中一般都是文字形式。因此,在进行学习模型之前,需要进行 特征提取,将样本的原始表示转换为特征向量。 23 | 24 | ​ 在机器学习中,为了更好地表示样本的属性,一般将样本表示成代数形式,称为样 本的特征,我们用$\phi(x)$。样本特征可以是一维或多维向量,$\phi(x) ∈ R_m,m$是向量维数。 25 | $$ 26 | \phi(x) = \left( 27 | \begin{array} {ccc} \phi_1(x) \\ \phi_2 (x) \\ .\\ .\\ \phi_m(x) 28 | \end{array} 29 | \right) 30 | $$ 31 | ​ 自然语言处理中,数据都是以字符形式存在的。样本的原始表示一般是字符串序 列。为了便于使用机器学习方法,首先要把样本表示为向量形式。下面我们介绍几种常 用的特征表示方法。自然语言处理的,在构造了样本和样本集合之后,为了和后面的机 器学习算法相结合,我们将样本x 转变成向量φ(x)。在将字符表示转换成向量表示的过 程中需要很多中间步骤,我们把这些中间步骤都成为数据处理,并且尽可能的模块化。 32 | 33 | #### 2.1 词袋模型 34 | 35 | ​ 一种简单的方法是简单假设文本(如一个句子或一个文档)是由字、词组成的无序 多重集合,不考虑语法甚至词序。这就是在自然语言处理和信息检索中常用的词袋模型，词袋模型可以看成一种以词为基本单位的向量空间模型(Vector Space Model, VSM)。具体可见本课程chap3的slide 36 | 37 | #### 2.2 N 元特征 38 | 39 | ​ 词袋模型在需要深层分析的场合就会显得太过简化了。例如在语义分析里,“你打了 我”和“我打了你”,意思是相反的,但用词袋模型表示后,这两句话是向量表示的等价 的,这显然是不合理的。 40 | 41 | ​ N 元特征(N-gram 特征),顾名思义,就是由 N 个字或词组成的字符串,单元可以 是字或词。这里N是大于等于1的任意整数。如果N 为2,就叫做二元特征,如果N为 3,就叫做三元特征以此类推。 42 | 43 | ​ N 元特征可以看出是对词袋模型的一种改进方法。与 N 元特征相关的概念是 N 元语法模型。以中文句子“机器学习算法”为例,以字为基本单位的二元特征集合为:{机器,器 学,学习,习算,算法}。集合中每一项都是由二个相邻的字组成的的子串,长度为 2。这 些子串可以是有意义的词(例如:“学习”、“算法”),也可以是无任何意义的字符串(例 如:“器学”,“习算”)。但是这些无意义的子串也有可能在分类中起到很关键的作用。一 个长度为L的句子,可以提取出L − 1个二元特征。 44 | 45 | ​ 有了 N 元特征集合,就可以利用词袋模型将文本表示为向量形式。随着 N 的增加, 可以抽取的特征就会越多,特征空间也会呈指数增加。这些高阶的特征出现的频率也会相对较低,对分类不但没有太多帮助,还会直接影响着后续处理的效率与复杂度。因此在一般的文本分类任务中,N 取 3 就足够了,并且同时也使用一元和二元特征,防止出现过拟合。 46 | 47 | ### 3 文本分类 48 | 49 | ​ 经过特征抽取后,一个样本可以表示为 k 维特征空间中的一个点。为了对这个特征 空间中的点进行区分,就需要寻找一些超平面来将这个特征空间分为一些互不重叠的子 区域,使得不同类别的点分布在不同的子区域中,这些超平面就成为判别界面。 50 | 51 | ​ 为了定义这些用来进行空间分割的超平面,就需要引入判别函数的概念。假设变量 z ∈ Rm为特征空间中的点,这个超平面由所有满足函数f(z) = 0的点组成。这里的f(z) 就称为判别函数。 52 | 53 | ​ 有了判别函数,分类就变得很简单,就是看一个样本在特征空间中位于哪个区域, 从而确定这个样本的类别。 判别函数的形式多种多样,在自然语言处理中,最为常用的判别函数为线性函数。 54 | 55 | #### 3.1 二分类问题 56 | 57 | $$ 58 | \hat y =sign((f(z))) = sign(\theta^Tz+\theta_0) 59 | $$ 60 | 61 | sign为符号函数，取判别函数f(z)的正负号，为方便，简写判别函数为 62 | $$ 63 | f(z) ＝ \theta^Tz+\theta_0 = \sum_{i=1}^{k}\theta_iz_i + \theta_0 = \sum_{i=0}^{k} = \hat \theta^T \hat z 64 | $$ 65 | 其中$z_0=1$,$\hat\theta,\hat z$分别称为增广权重向量和增光特征向量。 66 | $$ 67 | \hat z = \left( 68 | \begin{array} {ccc} 1 \\ z_1\\ .\\ .\\ z_k 69 | \end{array} 70 | \right) = \left( 71 | \begin{array}{ccc} 72 | 1 \\ \\ z \\ \\ \\ 73 | \end{array} 74 | \right) 75 | $$ 76 | 77 | $$ 78 | \hat \theta = \left( 79 | \begin{array} {ccc} \theta_0 \\ \theta_1\\ .\\ .\\ \theta_k 80 | \end{array} 81 | \right) = \left( 82 | \begin{array}{ccc} 83 | \theta_0 \\ \\ \theta \\ \\ \\ 84 | \end{array} 85 | \right) 86 | $$ 87 | 88 | 后面的分类器描述中,我们都采用简化的表示方法,并直接用 $θ , z$ 来表示增广权重向量和增广特征向量 89 | 90 | #### 3.2 多分类问题 91 | 92 | ​ 对于 C 类分类问题,需要定义 C 个判别函数。但是这种表示一般适用于类别 y 为离散变量的情况。在自然语言处理的很 多学习任务,类别 y 可以是更复杂的结构,比如多标签、层次化以及结构化等形式。为了更好的描述这些情况，可采用如下形式： 93 | $$ 94 | \hat y = \mathop{argmax}_yf(\phi(x,y),\theta) \hspace{5cm} 式3.2 95 | $$ 96 | 这里$\phi(x,y)$是包含了样本x和类别y混合信息的特征向量，$\theta=[\theta_1;\theta_2…;\theta_C]$ 97 | 98 | 例子： 99 | $$ 100 | \phi_1(x,y) =\left\{ 101 | \begin{array}{11} 102 | 1 & \textrm{if x contains 'stock' and y is 'eco'}\\ 103 | 0 & \textrm{otherwise} 104 | \end{array} 105 | \right. 106 | $$ 107 | 108 | $$ 109 | \phi_2(x,y)=\left\{ 110 | \begin{array}{11} 111 | 1 & \textrm{if x contains 'stock' and y is 'sport'}\\ 112 | 0 & \textrm{otherwise} 113 | \end{array} 114 | \right.. 115 | $$ 116 | 117 | 其中$x=w_1...w_{|V|}$ ，是个字典大小的向量。 118 | 119 | 总之： 120 | $$ 121 | \phi(x,y) = \left( 122 | \begin{array} {ccc} \phi_1(x,y) \\ \phi_2(x,y) \\.\\.\\ \phi_{|V|*k}(x,y) 123 | \end{array} 124 | \right)=\phi(x) \otimes \phi(y) 125 | $$ 126 | 其中： 127 | $$ 128 | \phi_k(x) =\left\{ 129 | \begin{array}{11} 130 | 1 & \textrm{if x contains c}_k\\ 131 | 0 & \textrm{otherwise} 132 | \end{array} 133 | \right. 134 | $$ 135 | $c_k$是词典中第k个词。 136 | $$ 137 | \phi_m(y) =\left\{ 138 | \begin{array}{11} 139 | 1 & \textrm{if y is label}_m\\ 140 | 0 & \textrm{otherwise} 141 | \end{array} 142 | \right. 143 | $$ 144 | $label_m$表示第m个标签。 145 | 146 | 再论式3.2： 147 | 148 | $\phi(x,y)$ 为特征表示，$f(\phi,\theta)$为模型，一般在文本分类中为线性模型（由于我们可以构建足够复杂的特征表示，在高维空间中总是线性可分的），argmax 为解码过程，即寻求y解的过程，对于分类问题，看得分取高分即可。机器学习要学的参数是$\theta$。 149 | 150 | ### 4 词性标注 151 | 152 | $y$的输出值可能不仅仅是分类值，可能也是一个序列值，如词性标注问题－输入一个序列，输出也是一个序列： 153 | 154 | X：(S) I give you a book (E) 155 | 156 | y: P V P D N 157 | 158 | 其中P为代词，V为动词，D为冠词，N为名词，(S)为开始符，(E)为结束符 159 | 160 | 1. 初级处理方法： 161 | 162 | 如(I, P),(give, V),(you,P),(a,D),(book,N) 构建一个多分类器 163 | 164 | 2. 进阶处理方法： 165 | 166 | 由于一个词的词性与其上下文相关，可以构建大小为n**窗口**，如n为1 167 | 168 | 可以增加以下： 169 | 170 | ((S) I give, N), (give you a, P)... 171 | 172 | 通过构建一个特征更多的多分类器。 173 | 174 | **但是仍然存在一个问题：相近词的词性约束缺失。** 175 | 176 | 3. CRF(条件随机场)： 177 | 178 | $$ 179 | \phi(x,y) = \sum_{i=1}^{L}\theta^T_i\phi(\vec{x},y_i)+\sum_{i=2}^{L}\theta_i^T\phi^{*}(\vec{x},y_{i-1},y_i) 180 | $$ 181 | L为序列化输出y的长度。 182 | 183 | ![](CRF.png) 184 | 185 | 其中$\phi(\vec x,y)$中特征抽取方式如下－假定窗口为1： 186 | $$ 187 | \phi_1(x,y_i) =\left\{ 188 | \begin{array}{11} 189 | 1 & if\ x_{i＋1}\ =\ 'a'\ and\ x_{i-1}\ =\ 'give'\ and \ y_{i}=P\\ 190 | 0 & \textrm{otherwise} 191 | \end{array} 192 | \right. 193 | $$ 194 | 其中$\phi^*(\vec x,y_{i-1},y_{i})$特征抽取方式如下: 195 | $$ 196 | \phi^*(x,y_{i-1},y_{i}) \approx \phi^*(y_{i-1},y_{i})=\left\{ 197 | \begin{array}{11} 198 | 1 & if\ y_{i-1}\ =\ V\ and \ y_{i}=P\\ 199 | 0 & \textrm{otherwise} 200 | \end{array} 201 | \right. 202 | $$ 203 | 204 | ### 5 感知器训练 205 | 206 | #### 5.1训练算法 207 | 208 | 输入:训练集: $(x_i,y_i),i=1,···,N$,最大迭代次数:T 输出: $θ_k$ 209 | 210 | $θ_0=0;$ 211 | $k=1;$ 212 | $for\ t=1···T\ do$ 213 | 214 | ​ $shuffle​$ 215 | 216 | ​ $for\ i = 1 · · · N\ do$ 217 | 218 | ​ 选取一个样本 (xi , yi ); 219 | 220 | ​ 预测类别 $\hat y_t $; 221 | 222 | ​ $if\ \hat y_t = y_t\ then$ 223 | 224 | ​ $θ_k =θ_{k−1}+(φ(x_t,y_t)−φ(x_t,\hat y_t));$ 225 | 226 | ​ $k=k+1;$ 227 | 228 | ​ $end$ 229 | 230 | ​ $end$ 231 | 232 | $end$ 233 | 234 | $return\ θ_T ;$ 235 | 236 | 算法要点： 237 | 238 | 1. 单个样本进行学习 239 | 2. 被动学习，只有预测值和实际值不同时才更新 240 | 3. 每次一轮迭代前进行shuffle 241 | 4. early-stop避免过拟合，将集合分成训练集，开发集和测试集。 242 | 243 | #### 5.2 感知器收敛性 244 | 245 | ##### 5.2.1 定义 246 | 247 | 多类线性可分: 对于训练集$D = {(x_i,y_i)}_{i=1}^{n}$,如果存在一个正的常数$γ(γ > 0)$和权重向量$θ^∗$,并且$∥θ^∗ ∥ = 1$,对所有i都满足 $⟨θ^∗, φ(x_i, y_i)⟩ − ⟨θ^∗, φ(x_i, y)⟩ > γ, y \ne y_i (φ(x_i, y_i) ∈ R^m$ 为样本$x_i $的增 广特征向量),那么训练集$D$ 是线性可分的。 248 | 249 | ##### 5.2.2 定理 250 | 251 | 对于任何线性可分的训练集$D = {(x_i,y_i)}_{i=1}^{n}​$,假设 R 是所有样本中错误类别和真实类别在特征空间 φ(x, y) 最远的距离。 252 | 253 | $R =\mathop {max}_imax_{z\ne y_i}∥φ(x_i,y_i)−φ(x_i,z)∥$ 254 | 255 | 那么在5.1感知器学习算法中,总共的预测错误次数$K <\frac{R^2} {γ^2}$ 256 | 257 | --------------------------------------------------------------------------------