Pytorch DQN入门
本教程介绍了如何使用 PyTorch 在OpenAI Gym上的 CartPole-v0 任务上训练深度 Q-learning(DQN)智能体
任务
智能体必须在两个动作之间做出决定-向左或向右移动小车来使其上的杆保持直立
您可以在Gym 网站上找到具有各种算法和可视化的官方排行榜
当智能体观察环境的当前状态并选择一个动作时,环境将转换到新状态,并且还会返回表示该动作结果的奖励
在此任务中,每前进一个时间步,奖励为+1,并且如果杆子掉落得太远或小车离中心的距离超过2.4个单位,则对局终止
这意味着性能更好的操作方案将持续更长的时间,从而积累更大的回报
Cartpole任务的设计为智能点输入代表环境状态(位置、速度等)的4个实际值
但是,神经网络可以完全通过查看场景来解决任务,因此我们将以小车为中心的一部分屏幕作为输入
因此,我们的结果无法直接与官方排行榜上的结果进行比较-我们的任务更加艰巨
不幸的是,这确实减慢了训练速度,因为我们必须渲染所有帧
严格地说,我们将以当前帧和前一个帧之间的差异来呈现状态
这将允许代理从一张图像中考虑杆子的速度
软件包
首先,让我们导入所需的软件包 ...
Markdown数学符号整理
Markdown常用希腊字母
符号
代码
符号
代码
α\alphaα
\alpha
A\AlphaA
\Alpha
β\betaβ
\beta
B\BetaB
\Beta
γ\gammaγ
\gamma
Γ\GammaΓ
\Gamma
δ\deltaδ
\delta
Δ\DeltaΔ
\Delta
ϵ\epsilonϵ
\epsilon
E\EpsilonE
\Epsilon
ζ\zetaζ
\zeta
Z\ZetaZ
\Zeta
η\etaη
\eta
H\EtaH
\Eta
θ\thetaθ
\theta
Θ\ThetaΘ
\Theta
ι\iotaι
\iota
I\IotaI
\Iota
κ\kappaκ
\kappa
K\KappaK
\Kappa
λ\lambdaλ
\lambda
Λ\LambdaΛ
\Lambda
μ\muμ
\mu
M\MuM
\Mu
ν\nuν
\nu
N\NuN
\Nu
ξ\xiξ
\xi
Ξ\XiΞ
\Xi
ο\omicronο
\omicron
O\OmicronO
\O ...
信号与系统知识点整理
LTI系统
基本信号分类
基本连续时间信号
指数信号
x(t)=Ceatx(t) = Ce^{at}
x(t)=Ceat
特殊形式:x(t)=ejω0t特殊形式:x(t) = e^{j\omega_0t}
特殊形式:x(t)=ejω0t
正弦信号
x(t)=Acos(ω0+ϕ)x(t) = A\cos(\omega_0 + \phi)
x(t)=Acos(ω0+ϕ)
单位冲激信号
{δ(t)={0,t≠0∞,t=0∫−∞∞δ(t)dt=1\begin{cases}\delta(t) = \begin{cases}0,t\neq 0 \\ \infty,t = 0 \end{cases}\\ \\ \int^\infty_{-\infty} \delta(t)dt = 1 \end{cases}
⎩⎨⎧δ(t)={0,t=0∞,t=0∫−∞∞δ(t)dt=1
单位阶跃信号
u(t)={0,t<01,t>0u(t) = \begin{cases}0,t < 0 \\ 1,t > 0\end{cases}
u(t)={0,t< ...
Butterfly主题下Giscus评论区的显示问题的解决办法
Bug的出现及现象描述
我在建设我的博客小站的时候,顺手添加了博客的双评论功能(Waline和Giscus)
然后在我测试双评论切换的时候,我发现了一个奇特的现象
我的每个页面的最底部(在Butterfly的footer下方)都会出现Giscus的评论区(除非设置了hexo的博客文章comments属性为false)
之前群里有朋友认为是css文件的原因,但是Giscus的部署只需要从网页上引入client.js就可以了
当然,要使用<script>元素把js文件嵌入到Butterfly主题的_config.yml的inject部分当中去
发现问题
我尝试了一下将Giscus帮我生成的HTML代码嵌入到我的markdown博客底部中去
然后发现在博客的底部,评论区的上方,出现了Giscus的评论区
至此可以得出结论:
Giscus的评论区是锁定在页面底部的,Butterfly的inject功能之一是将用户定义的HTML标签嵌入</html>标签之前,而且是全局设置,所以会全局启用Giscus的评论区
解决问题
我需要的是去除主页的Giscus评论区,对于其 ...
第一篇博客
9e956e92eff64aa8bfafdb47fa74e12d77465058b60bfd3f6ea96db4202a3c50c4fe4b81f1199f3047735c395885baf97747e77ebf0a23087fbd9bfca9e0a32c81616cabf046600161eddc8a1bc7c7a66dbb36c0080925b59a16adde994e383d10e34dc1432850e970230e29caeaf05587c896fb7f0446a1ec500dacff6f4077ece46a1b409c21c49eb774983bd9482cd0604bcb12649b0a43302d1321cee446f8336c2cfe0a9c92ea6131a2b563332d3cf2321aab39b3270ff093e9c3bd9b09474860f734100707b902a92720517f35a02acc106aa8581095513b5c2e3343f743c1d2e54952fa8e613179a5a0d4d84f47de67a1accb60b81 ...