基础知识PyTorch语法PyTorch语法 张量(Tensor)是一个广义的数学概念 0阶张量:标量(Scalar),如温度、质量 1阶张量:向量(vector),如速度、力 2阶张量:矩阵(Matrix),如应力张量、图像像素矩阵 更高阶张量:如RGB图像(3阶张量:$高度\times 宽度\times 通道$^1)、视频数据(4阶张量:$时间\times 高度\times 宽度\times 通道$)^1 计算图(Computational...

思路 模型定义,如假设模型为$y=w \cdot x$ 损失函数:$MSE = \frac{1}{N}\sum_{i=1}^{N}(w\cdot x_i - y_i)^2$ 梯度计算:$\frac{\partial \text{MSE}}{\partial w} = \frac{2}{N} \sum_{i=1}^{N} x_i \cdot (w \cdot x_i -...

使用穷举法寻找线性回归模型中最佳权重参数w注意: 对于numpy需要先下载依赖pip install numpy 对于matplotlib.pyplot,若有anaconda则无需下载 123456789101112131415161718192021222324252627282930313233343536import numpy as np;import matplotlib.pyplot as pltx_data = [1.0,2.0,3.0]y_data = [2.0,4.0,6.0]w_list = []mse_list = []# 定义前馈函数def forward(x):...

在Anaconda中使用PyTorch 查看CUDA版本的三种方法 123nvcc -Vnvcc --versionnvidia -smi 快速搭建虚拟环境 1234567891011# 创建环境并指定Python版本conda create -n <env_name> python=3.9 # 激活环境conda activate <env_name># 安装PyTorch版本conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c...

电饭煲的购买电饭煲容量 1-2人选择$\le 3L$ 3-5人选择$3-4L$ 大家庭选择$5L$以上的 内胆材质 铁质内胆>多层复合内胆>铝合金内胆>不锈钢内胆>陶瓷内胆 多层复合内胆锌价比较高,如铝合金+不锈钢 涂层建议复合涂层:PEEK+PFA/PTFE>PFA>PFA+PTFE>PTFE 厚度 厚一点为佳 3mm>2mm>1.5mm 形状 异形>圆柱形 异形,包括球釜、本釜、弧形等等 加热方式远红外加热/多段IH电磁加热>IH电磁加热>三维立体加热>底盘加热

原文链接传送门 知识清单Abstract 小样本学习方法(few-shot learning):让模型仅通过极少量样本(如1-5个样本,称为1-shot或5-shot)快速学习新任务 元学习(meta-learning):通过大量相似任务(如分类不同模型)训练模型 例如:训练时让模型学习“如何区分5种类别的鸟类”,测试时快速适应“区分5种新鸟类”。 跨领域小样本学习(cross-domain...

知识笔记 多阶段训练(multi-stage training):指模型训练过程中分为多个阶段(阶段间目标或数据不同),每个阶段针对性地优化模型的不同能力,最终提升整体性能。 冷启动数据(cold start data):指在模型训练初期(或新任务启动时)使用的特定引导数据,用于解决模型初期因缺乏足够信息导致的性能低下或不稳定问题。 训练后阶段:指在机器学习模型完成训练后的一系列操作,包括模型评估、优化、部署、监控等。 预训练与训练的差别 预训练:在大规模通用数据集上进行 训练:在特定任务上调整模型参数的过程 推理导向的强化学习(Reasoning-Oriented...

增1db.getCollection('uesr').insert({"userId" : "014","uclass" : "B","name" : "Back","age" : 11,"email" :...

Critical Point情况 局部最小值(local minima)。如果是**卡在local minima,那可能就没有路可以走了,**因为四周都比较高,你现在所在的位置已经是最低的点,loss最低的点了,往四周走 loss都会比较高,你会不知道怎么走到其他地方去。 鞍点(saddle point)。(如图可看出,左右是比红点高,前后比红点低,红点既不是local minima,也不是local maxima的地方)如果是卡在saddle point,saddle point旁边还是有其他路可以让你的loss更低的,你只要逃离saddle...