Python中的变量拷贝
Python中的变量拷贝 参考文章 http://iaman.actor/blog/2016/04/17/copy-in-python 首先直接上结论： —–我们寻常意义的复制就是深复制，即将被复制对象完全再复制一遍作为独立的新个体单独存在。所以改变原有被复制对象不会对已经复制出来的新对象产生影响。 —–而浅复制并不会产生一个独立的对象单独存在，他只是将原有的数据块打上一个新标签，所以当其中一
multi-task learning
Multi-task Learning and Beyond: 过去，现在与未来 近期 Multi-task Learning (MTL) 的研究进展有着众多的科研突破，和许多有趣新方向的探索。这激起了我极大的兴趣来写一篇新文章，尝试概括并总结近期 MTL 的研究进展，并探索未来对于 MTL 研究其他方向的可能。 这篇文章将顺着我 18 年硕士论文：Universal Representatio
机器学习：准确率、召回率、F值、ROC曲线、PR曲线
机器学习：准确率、召回率、F值、ROC曲线、PR曲线 增注：虽然当时看这篇文章的时候感觉很不错，但是还是写在前面，想要了解关于机器学习度量的几个尺度，建议大家直接看周志华老师的西瓜书的第2章：模型评估与选择，写的是真的很好！！ 摘要： 数据挖掘、机器学习和推荐系统中的评测指标—准确率(Precision)、召回率(Recall)、F值(F-Measure)简介。 引言： 在机器学习、数据挖掘、推
pytorch模型保存与加载
pytorch模型保存与加载 第一种方式 采用这种方式保存的模型是模型的结构和模型的参数。 在加载模型时： 此时模型的参数也被保存下来了，可以通过如下方式查看，即通过debug的模式，在的模型加载之后查看模型的参数： 第二种方式 这种方式保存的是模型的参数，其中模型后面的vgg16.state_dict() 表示将模型的参数保存为字典类型的数据。这是一种比较推荐的保存方式，因
图像相似度算法及其适用场景分析
图像相似度算法及其适用场景分析 前言 工作中，我们可能会碰到一些需求，需要比较不同图像的相似度，或者从大量图片中快速找到相似图片，这就需要借助相应的图像相似度算法来帮助我们实现。另外，机器学习和人工智能的大部分应用场景，都需要借助图像相似度算法，这也算是学习AI的重要一步。所以，在这里，我们一起探究主流的图像相似度算法，并尝试用OpenCV和Python来做简单实现。最后，根据不同相似度算法的
pytorch余弦退火学习率CosineAnnealingLR的使用
pytorch余弦退火学习率CosineAnnealingLR的使用 一、背景 再次使用CosineAnnealingLR的时候出现了一点疑惑，这里记录一下，其使用方法和参数含义 后面的代码基于 pytorch 版本 1.1, 不同版本可能代码略有差距，但是含义是差不多的 二、余弦退火的目的和用法 2.1 为啥用cosineAnnealingLR策略 原因：因为懒… 这样就不用像使用其他类
自定义损失函数
自定义损失函数 PyTorch在torch.nn模块为我们提供了许多常用的损失函数，比如：MSELoss，L1Loss，BCELoss… 但是随着深度学习的发展，出现了越来越多的非官方提供的Loss，比如DiceLoss，HuberLoss，SobolevLoss… 这些Loss Function专门针对一些非通用的模型，PyTorch不能将他们全部添加到库中去，因此这些损失函数的实现则需要我们
超参数搜索
超参数搜索 最近遇到了搜索超参数规模过大的问题，需要一些自动调参的方法，下面是一些调研。 前言 这个文档的主要参考资料来自网络，我只是想用这个工具，并没有深入的去研究细节。但是超参数搜索在深度神经网络里面很重要，很多云服务厂商，包括华为云的ModelArts等等，都提供了相应的服务，因此应该还是比较完整的一个调研。 超参数是开始训练之前，用预先确定的值来手动设置的所有训练变量。这里的超参数要区