后端日志-week1
工作日志-后端day01今天完成脚手架框架的搭建,RabbitMQ的访问端口要写成5672,15672只是管理页面的进入方式,并非配置端口。
day02OAuth2认证服务的配置
需要配置 public class AuthorizationServer extends AuthorizationServerConfigurerAdapter{} 中的三个类
AuthorizationServerSecurityConfigurer:用来配置令牌端点(Token Endpoint)的安全约束。
ClientDetailsServiceConfigurer:用来配置客户端详情服务(ClientDetailsService),客户端详情信息在这里进行初始化,你能够把客户端详情信息写死在这里或者是通过数据库来存储调取详情信息。(比如clientid等,用以识别客户端身份)(一般有内存形式和)
AuthorizationServerEndpointsConfigurer:用来配置授权(authorization)以及令牌(token)的访问端点和令牌服务(token services)。 ...
工作日志-大模型
了解当下大语言模型
完成大模型部署,掌握大模型训练微调和推理
Python学习,Numpy与Pandas等数据处理,Pytorch与MindSpore框架学习
掌握prompt提示词工程以提高大模型交互质量
了解大模型开发工具(LangChain)
大模型多模态功能,文生图/视觉语言模型/视频等项目
多模态大模型的部署,训练,推理
大模型的优化技巧,如减少模型大小,硬件加速,并行处理等
大模型的量化方法
部署在华为昇腾服务器上与ARM服务器相关部署
Arm服务器相关部署
掌握调用Agent功能及其开发流程,独立开发Agent功能
day01大模型相关的参数调整:
相关调参方法,涉及到大模型生成答案的策略:
文本解码策略
当 num_beams=1 而且 do_sample=False 时,,每个step生成条件概率最高的词,因此生成单条文本。代码中,调用 greedy_search()方法
随机贪婪搜索:当 num_beams=1 且 do_sample=True 时,每个单步时会根据模型输出的概 ...
安装环境踩坑
在Windows环境下安装Docker DeskTop今天完成了WIndows环境下的docker安装,docker其实在Linux环境下安装更方便,在Win11/Win10环境下安装首先要准备操作系统的虚拟环境。
安装Hyper-v需要再控制面板的系统界面中将以下服务打开,如果没有hyper-v选项的,可以运行以下代码。
123456pushd "%~dp0"dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hv.txtfor /f %%i in ('findstr /i . hv.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i"del hv.txtDism /online /enable-feature /featurename:Microsoft-Hyper-V -All /LimitAccess /ALL ...