基于MovieLens数据集的电影推荐系统（简易版）

MovieLens

数据集给了三个信息：ratings/movies/users，是6000名用户对4000部电影的评分。内容如下：

ratings.dat

#=======================================================================
#             UserID::MovieID::Rating::Timestamp
#=======================================================================
	- UserIDs range between 1 and 6040 
	- MovieIDs range between 1 and 3952
	- Ratings are made on a 5-star scale (whole-star ratings only)
	- Timestamp is represented in seconds since the epoch as returned by time(2)
	- Each user has at least 20 ratings

users.dat

#=======================================================================
#         UserID::Gender::Age::Occupation::Zip-code
#=======================================================================
	- Gender is denoted by a "M" for male and "F" for female
	- Age is chosen from the following ranges:
		*  1:  "Under 18"
		* 18:  "18-24"
		* 25:  "25-34"
		* 35:  "35-44"
		* 45:  "45-49"
		* 50:  "50-55"
		* 56:  "56+"
	- Occupation is chosen from the following choices:
		*  0:  "other" or not specified
		*  1:  "academic/educator"
		*  2:  "artist"
		*  3:  "clerical/admin"
		*  4:  "college/grad student"
		* ...........
		* 19:  "unemployed"
		* 20:  "writer"

movies.dat

#=======================================================================
#             MovieID::Title::Genres
#=======================================================================
	- Titles are identical to titles provided by the IMDB (includingyear of release)
	- Genres are pipe-separated and are selected from the following genres:
  		* Action
  		* Adventure
  		* Animation
  		* Children's
  		* Comedy
  		* Crime
  		* Documentary
  		* ......
  		* Western
	- Some MovieIDs do not correspond to a movie due to accidental duplicate entries and/or test entries
	- Movies are mostly entered by hand, so errors and inconsistencies may exist

算法

0.常用算法对比

1.关联规则（啤酒和尿布）

关联规则是形如X→Y的蕴涵式。其中，X和Y分别称为关联规则的先导和后继。

2.Slope One

举个例子

？=4-（（5-3）+（4-3））/2

基本的想法来自于简单的一元线性模型已知一组训练点利用此线性模型最小化预测误差的平方和，我们可以获得
当我们要预测新点的时候，带入原来的一元线性模型就好了
误差多大？

其中 Sj,i() 表示同时对item i 和 j 给予了评分的用户集合，而 card()表示集合包含的元素数量。
将

作为新的item的预测值

注：这个没有考虑到使用不同用户数量平均值。假设有2000个用户同时评论了item j和k，而只有20个用户评分了item j和item l，那么显然用dev(j,k)比dev(j,l)更有权威

3.SVD

推荐阅读文章

简单的说就是把高维稀疏矩阵进行分解：

一些补充知识

1.正交矩阵

假设二维空间中的一个向量OA，它在标准坐标系也即e1、e2表示的坐标是中表示为(a,b)’（用’表示转置），现在把它用另一组坐标e1’、e2’表示为(a’,b’)’，存在矩阵U使得(a’,b’)’=U(a,b)’，则U即为正交矩阵。从图中可以看到，正交变换只是将变换向量用另一组正交基表示，在这个过程中并没有对向量做拉伸，也不改变向量的空间位置，加入对两个向量同时做正交变换，那么变换前后这两个向量的夹角显然不会改变。上面的例子只是正交变换的一个方面，即旋转变换，可以把e1’、e2’坐标系看做是e1、e2坐标系经过旋转某个斯塔角度得到，怎么样得到该旋转矩阵U呢？如下：

a’和b’实际上是x在e1’和e2’轴上的投影大小，所以直接做内积可得，then

从图中可以看到

所以

正交阵U行（列）向量之间都是单位正交向量。上面求得的是一个旋转矩阵，它对向量做旋转变换！也许你会有疑问：刚才不是说向量空间位置不变吗？怎么现在又说它被旋转了？对的，这两个并没有冲突，说空间位置不变是绝对的，但是坐标是相对的，加入你站在e1上看OA，随着e1旋转到e1’，看OA的位置就会改变。如下图：

如图，如果我选择了e1’、e2’作为新的标准坐标系，那么在新坐标系中OA（原标准坐标系的表示）就变成了OA’，这样看来就好像坐标系不动，把OA往顺时针方向旋转了“斯塔”角度，这个操作实现起来很简单：将变换后的向量坐标仍然表示在当前坐标系中。

旋转变换是正交变换的一个方面，这个挺有用的，比如在开发中需要实现某种旋转效果，直接可以用旋转变换实现。正交变换的另一个方面是反射变换，也即e1’的方向与图中方向相反，这个不再讨论。

总结：正交矩阵的行（列）向量都是两两正交的单位向量，正交矩阵对应的变换为正交变换，它有两种表现：旋转和反射。正交矩阵将标准正交基映射为标准正交基（即图中从e1、e2到e1’、e2’）

2.EVD

在讨论SVD之前先讨论矩阵的特征值分解（EVD），在这里，选择一种特殊的矩阵——对称阵（酉空间中叫hermite矩阵即厄米阵）。对称阵有一个很优美的性质：它总能相似对角化，对称阵不同特征值对应的特征向量两两正交。一个矩阵能相似对角化即说明其特征子空间即为其列空间，若不能对角化则其特征子空间为列空间的子空间。现在假设存在mxm的满秩对称矩阵A，它有m个不同的特征值，设特征值为