1、Wide & Deep 模型
https://arxiv.org/abs/1606.07792
https://blog.csdn.net/google19890102/article/details/78171283
在Wide & Deep模型中包括两个部分,分别为Wide部分和Deep部分,Wide部分如上图中的左图所示,Deep部分如上图中的右图所示。
wide模型:实际上,Wide模型就是一个广义线性模型, $y = w^T x+b$
deep模型:Deep模型是一个前馈神经网络
联合训练:同时训练Wide模型和Deep模型,并将两个模型的结果的加权和作为最终的预测结果:$P(Y = 1 | x) = \sigma(W^T_{wide}[x, \phi(x)] + W^T_{deep}a^{l_f} + b)$
优化方法:
wide模型:FTRL
deep模型:AdaGrad
keras:http://www.atyun.com/18823.html
2、DeepFM模型
https://ask.hellobi.com/blog/wenwen/11840
https://www.cnblogs.com/ljygoodgoodstudydaydayup/p/7340413.html
FM部分:
$y_{FM} = <w, x> + \sum^d_{j_1 = 1}\sum^d_{j_2 = j_1 + 1}<V_i, V_j>x_{j_1} . x_{j_2}$
原文:https://www.cnblogs.com/ljygoodgoodstudydaydayup/p/10711225.html