IGNORANT https://idzc.top/ Research a little bit, and write a little bit. Fri, 09 May 2025 15:02:26 GMT https://validator.w3.org/feed/docs/rss2.html https://github.com/jpmonette/feed en-US All rights reserved 2025, zfhxi <![CDATA[Mac上使用VSCode进行LaTeX写作]]> https://idzc.top/article/202312080000 https://idzc.top/article/202312080000 Fri, 08 Dec 2023 00:00:00 GMT
可主要参考：
https://zhuanlan.zhihu.com/p/670790519
进行配置，只不过Mac上需要下载MacTex，Windows可以按指示下载TexLive或者CTAN。
Mac上使用skim作为论文pdf的阅读器，并进行跳转，可参考以下两篇文章：
https://www.jianshu.com/p/6f2e385c6653
https://zhuanlan.zhihu.com/p/570559163

抄作业

  1. 去清华源下载MacTex
  1. VSCode中安装Latex Workshop、grammarly插件
  1. 将下列对应配置添加到VSCode的settings.json和keybindings.json中，
  1. 常用快捷操作：
      • 编辑器里：Alt+b进行编译（或保存自动编译）
      • 编辑器里：Alt+j跳转到当前latex代码所对应的PDF位置
      • PDF预览页面里：鼠标双击PDF某位置，跳转到该位置对应的latex源码。
 
settings.json
keybindings.json
参考：
  1. https://zhuanlan.zhihu.com/p/670790519
  1. https://www.jianshu.com/p/6f2e385c6653
  1. https://zhuanlan.zhihu.com/p/570559163
  1. https://code.visualstudio.com/docs/getstarted/keybindings#_running-multiple-commands
]]> <![CDATA[docker-compose搭建FreshRSS服务]]> https://idzc.top/article/202311081400 https://idzc.top/article/202311081400 Wed, 08 Nov 2023 00:00:00 GMT
FreshRSS是一个自托管的RSS和Atom feed聚合器。它轻便易用，功能强大，可定制。它是一个多用户应用程序，具有匿名阅读模式。它支持自定义标签。它有一个用于（移动）客户端的API，以及一个命令行界面。
展开更多
FreshRSS可以跟踪网站、播客和视频频道。你可以直接在FreshRSS中阅读你的文章。它还支持搜索和保存查询以便快速访问。FreshRSS还可以通过抓取外部网站生成feed1，并根据你的过滤器生成新的feed。你可以使用OPML导入和导出你的feed。FreshRSS支持WebSub，让你实时连接到你的feed。它可以根据你的需要进行配置。你可以使用或不使用第三方应用来关注你的feed。FreshRSS可以管理超过1M+的文章和50k+的feed。你可以使用主题和扩展来定制FreshRSS。FreshRSS已经被翻译成15种以上的语言。FreshRSS是一个免费的软件（AGPL 3）并且对社区友好。

docker部署freshrss

vim docker-compose.yml新建docker-compose.yml文件（参考官方提供的compose）：
记得更改volumes字段的路径， 如果你不需要代理，请删除http_proxy、https_proxy、no_proxy三个变量。下面下载镜像并启动容器：
去宝塔添加静态网站绑定自己的域名xxx.yourdomain.com，然后反向代理到http://127.0.0.1:8082。

配置

打开域名xxx.yourdomain.com进行配置，数据库选择SQLite，安装。
 
下面为第三方app配置api密钥：
  1. 右上角⚙️ → 管理→认证，勾选以下选项：
      • ✅ 允许不安全的自动登陆方式: xxxx
      • ✅ 允许 API 访问 （用于手机应用）
  1. 右上角⚙️ → 账户，设定api密码，并复制API management下的地址并拼接上greader.php就是api地址了。

使用NetNewsWire绑定FreshRSS

  1. 打开NetNewsWire -> Settings -> Accounts -> 点击左下角的➕ -> 选择Self-Hosted的FreshRSS：
      2. notion image
  1. 填写如下信息：
      • username：你设置的FreshRSS用户名
      • password：api密码
      • API URL：上述拼接好的api地址
这样就可以通过NetNewsWire来浏览FreshRSS的订阅了。

结合RSSHub食用

RSSHub可以为一些不存在订阅链接的网页添加订阅链接，并且可以
一键导入到FreshRSS。
  1. 先按照官方教程部署RSSHub，并获取部署的地址（绑定域名）。
      2. 注：这里建议使用diygod/rsshub:chromium-bundled镜像，并按照说明注释掉 marked所在的行（实测这样捕获订阅链接成功率更高）
将上述中的10.0.5.1改为docker网关（通常为172.17.0.1，通过ifconfig docker0查询），然后拉取镜像并运行容器：
同样地，通过反向代理绑定域名到http://127.0.0.1:1200。
  1. 安装RSSHub-Radar浏览器插件，将上述地址填入插件设置页面的自定义 RSSHub 域名。
  1. 在FreshRSS web主页，点击左上角的Subscription management -> 点击左栏的Subscription tools -> 复制订阅API链接 -> 将其填写到RSSHub-Radar插件设置页面里的一键订阅下的FreshRSS选项中。
这样就可以通过点击浏览器导航栏的RSSHub-Radar图标快速将当前网页的订阅链接添加到FreshRSS中，从而通过NetNewsWire浏览。
参考：
  1. https://blog.zhheo.com/p/9158a43c.html#搭建FreshRSS
  1. https://veryjack.com/technique/docker-install-freshrss/
  1. https://www.bmqy.net/2648.html#访问
]]> <![CDATA[frp内网穿透记录]]> https://idzc.top/article/202311041500 https://idzc.top/article/202311041500 Sat, 04 Nov 2023 00:00:00 GMT

场景

需求：
  • Linux主机A，可以访问外网，但是没有公网ip；部署了wandb、ssh或其他程序；
  • 个人PC（例如MacOS），可以访问外网，也没有公网ip，与主机A不在同一局域网。希望能访问主机A上的wandb，且通过ssh连接主机A。
思路：
  • 拥有一台远程Linux服务器B，可以访问外网，且有公网ip（这样主机A和个人PC都可以访问服务器B）。
  • 使用frp来将服务器B当作“代理”：
notion image

下载frp软件

在github上下载相应的服务器端与客户程序：
fatedier/frp/releases

服务器B上的操作

安装frps并配置

关注以下文件：
前两个文件（s结尾代表server）分别是服务端程序和服务端配置文件，后两个文件（c结尾代表client）分别是客户端程序和客户端配置文件。此时，我们在配置公网服务器，因此修改frps.toml：

添加到systemd自启动

vim /etc/systemd/system/frps.service
并且你需要在防火墙里放行7000、7500这两个端口。
在个人PC上访问 http://服务器ip:7500，就可以看到frp server的状态。

主机A的配置

安装frpc并配置

frpc.toml
上面的[[proxies]]板块是添加的代理服务

添加到systemd自启动

类似服务器B的操作，这里假设主机A是以普通用户添加systemd自启动。
如果主机A的普通用户没有开启systemd自启动功能，参考systemd/User - ArchWiki (archlinux.org)执行loginctl enable-linger username开启。
vim ~/.config/systemd/user/frpc.service

达到的效果

  • 个人PC通过ssh xxx@服务器ip:221就能通过代理服务器远程连接主机A了。
  • 个人PC通过访问http://@服务器ip:1991就能通过代理服务器访问主机A中的wandb服务了。
参考：
]]> <![CDATA[代理软件Clash Verge配置记录]]> https://idzc.top/article/202307011700 https://idzc.top/article/202307011700 Sat, 01 Jul 2023 00:00:00 GMT
随着软件版本的迭代，该教程已过期。
 

起因

和好朋友谈到我的梯子打开ChatGPT有点卡时，好朋友果断把他的梯子订阅链接分享了给我。
然而填到clash for windows（也称cfw）时报错不支持hysteria协议。查了下，hysteria协议只有Clash.Meta的core才支持，而cfw原生只支持clash core，而clash core作者似乎无意支持hysteria协议。
于是我去谷歌了下支持Clash.Meta的core的客户端，然后就找到了Clash Verge这个软件，和cfw界面有点类似，但配置不太一样。看了它的wiki后，自己折腾了下，感觉配置方式太灵活了，立马推荐给了我好朋友（他似乎用的是换core的cfw，百度有教程的，但我感觉那样不方便后续升级）。下面就记录下折腾结果。

安装

直接在Clash Verge的release界面下载对应的包，点击安装即可。
notion image

使用

添加订阅链接
通常打开软件后，在状态栏/任务栏会有一个图标（Clash Verge是没有眼睛的猫猫头），右键猫猫头然后点击Dashboard→Profiles→搜索框输入订阅链接→IMPORT。
开启代理
右键点击猫猫头，勾选System Proxy和Rule Mode：
notion image

配置规则/白名单

回顾下cfw是怎么配置的：
右键猫猫头→Dashboard→Settings→Profiles→Parser Edit：
notion image
 
然后添加规则：
notion image
保存后，需要Dashboard→Profiles→选中config（即订阅链接产生的选项卡）并点击更新图标（以保证自定义规则添加到了config）。
Clash Verge的配置方式：
参考作者的wiki：
目前支持4种类型的配置文件，分别是Remote、Local、Script、Merge。其中，Remote和Local类型为 主配置文件，Script和Merge类型为 增强配置文件，用于修改主配置文件的。点New可以创建这些配置文件（如下图），对于Remote类型的，也可以直接输入url import即可。 （备注：该模式主要参考了CFW的实现）
notion image
 
简单来说:
  1. Remote Type Profile是用来订阅远程链接的，通常机场的订阅地址填写到下图红框中：
      2. notion image
  1. Local Type Profile其实就是添加本地的config文件：
      2. notion image
  1. Script Type Profile：个人认为算是Clash Verge与cfw最大的不同之处了吧，它允许用户使用javascript脚本来预处理config（可以是上面的远程订阅得到的config，也可以是本地config文件）
      2. notion image
      然后点击SAVE，再右键该Profile→Edit File→编写预处理js脚本→SAVE→Enable：
      notion image
      我会在后面分享一个预处理config脚本，用来添加一个名字叫OpenAI的proxy group（专门为OpenAI/ChatGPT网站选节点）。
  1. Merge Type Profile。作者说这是源于cfw中的配置方法而设计的。即方便将cfw配置的Parses迁移到Clash Verge中。
      2. notion image
      然后同样是：右键该Profile→Edit File→填写规则→SAVE→Enable：
      notion image
      作者在wiki里对这个yaml文件的各个字段做一个详细解释。但个人认为，平常用的最多的是prepend-rules，其对应于cfw的Parse规则配置。我会在下面分享一个简单的、只有prepend-rules的示例。
      总的来说：
      • Clash Verge的配置就是进行上面134或者234步骤；
      • 如果你只想简单的添加订阅链接/本地config文件，只需要进行1或2的步骤；
      • 如果还需添加一些规则的话，额外进行步骤4；
      • 添加一些复杂的操作的话，可能额外需要进行步骤3。
      • 注意，在配置完规则或者脚本后，建议重新更新下订阅的Profiles，以保证规则和脚本生效。
      建议在配置完规则后，Dashboard→Rules→输入关键字筛选（例如输入open）→检查是否有对应规则：
      notion image

      附件

      预处理js脚本

      用来添加一个名字叫🔯OpenAI的proxy group（专门为OpenAI/ChatGPT网站选节点，其节点列表拷贝自🌍 国外媒体这个group）：
      为什么有这个脚本？因为之前用cfw时，我让openai相应的域名通过🎶 网易音乐这个group指定的节点转发（我不用网易云音乐），而有的梯子提供商的订阅链接不自带这个group，但是都会自带🌍 国外媒体这个group，且cfw似乎不具备脚本更改group的功能。因此，我打算用Clash Verge通过脚本拷贝一个group，专门服务于openai相应的域名访问。

      简单规则示例

      指定一些白名单，如局域网的IP或者中国域名都走DIRECT直连（不走梯子流量）；后缀匹配到openai.com的域名（如chat.openai.com）走🔯OpenAI这个proxy group设定的节点（通常是美国、英国节点）。
      这个yaml文件中没有被配置的每个字段的下一行必有一个空行，否则报错。（由于本站的js脚本，导致最后一个空行被清除了）
       
]]> <![CDATA[学习Sinkhorn Distance后的个人理解]]> https://idzc.top/article/202305042300 https://idzc.top/article/202305042300 Thu, 04 May 2023 00:00:00 GMT
由于网上各位大佬都做了足够多的介绍，我这里当个缝合怪，顺便说说自己的理解。若有疏漏，请斧正！

概念

什么是Sinkhorn Distance？它是一种optimal transport distance。
什么是optimal transport distances呢？我们不妨说说其中很常见的推土机距离。
什么又是推土机距离呢？那下面就做个简单的介绍。

推土机距离

Wikipedia的对推土机距离的解释是：
In computer science, the earth mover's distance (EMD) is a distance-like measure of dissimilarity between two frequency distributions, densities, or measures over a region D.
简单来说，推土机距离是衡量两个分布之间的距离的一种方法。它的基本思想是将一种分布通过一定的代价转换为另一种分布，计算这个代价就是推土机距离。
对于两个分布和，可以将它们想象成仅堆叠不同的两堆土，怎么样花最低代价将左边的土推成右边的土呢？
对于两个分布和，可以将它们想象成仅堆叠不同的两堆土，怎么样花最低代价将左边的土推成右边的土呢？
你可能了解过度量两个分布的其他距离，如欧氏距离、KL散度、JS散度以及其他更复杂的距离，但是这类距离方式并未考虑两个分布之间的联合分布。而推土机考虑了：
其中，是所有联合分布的集合，其边缘分布分别为。
求解这样的式子，得到联合分布，也就是最终的推土方案：
推土方案示例：左边某些区域的土可能还需要推到右边对应区域的附近区域上。
推土方案示例：左边某些区域的土可能还需要推到右边对应区域的附近区域上。

Optimal Transport Distances

介绍完推土机距离后，回到optimal transport distances上。
假设有这样的交通运输场景⁵：有个仓库，个工厂，我们需要将某种物品从各个仓库运送到各个工厂（允许一个仓库的物品运往多个工厂，且允许一个工厂接受多个仓库的运货），希望找到最优运输方案来最大限度地降低运输成本，这便是最优传输问题。
 
notion image
 
假设第个仓库存货量是，第个工厂的需求量是，仓库到工厂的运输距离是，表示从第个仓库运货到第个工厂的货物量，那么求解这样的问题其实是在求解如下的线性规划：
和推土机距离的联系：
（下面均假设，理论上可推广至的情形），仓库和工厂可看成两堆不同的土，各个仓库的存储量情况和各个工厂的需求量情况可以看作两个分布，各个仓库和各个工厂的距离可以看作为两个分布（直方图）各个区域间的距离。
 
notion image
 
上面通过求解(2)式获得的就是最优传输距离，下文称之为原始optimal transport distance。
然而一些工作在(2)式的基础上加了一些约束，使其便于求解，因此就有了不同“版本”的距离，统称为optimal transport distances。例如常见的有：
  1. Wasserstein Distance (也称推土机距离)：用于WGAN中，使用Lipschitz正则化(1)式的对偶形式中引入的函数。不过一些人认为WGAN中计算的分布间的距离并不是严格意义上的Wasserstein Distance。
  1. Sinkhorn Distance: 它是Wasserstein distance的一个近似算法，使用了熵正则化的方法实现计算上的效率。通过引入熵惩罚项，可以将概率分布之间的optimal transport问题转变为具备良好计算性质的解析表达式。
  1. Cramer Distance: 一种用于测量两个概率分布之间距离的方法，它是基于分布函数的平方差来定义的。Cramer Distance的提出是为了解决Wasserstein Distance在梯度计算中存在偏差的问题。
而今天本文的主角是“Sinkhorn Distance”，下面开始介绍。

Sinkhorn Distance

为什么文献[1]会提出Sinkhorn Distance呢？
其主要针对原始optimal transport distance的时间复杂度高这一问题，提出了一种最大化熵的约束方案来使传输方案不那么稀疏，并且降低了计算复杂度。具体而言，原始optimal transport distance存在的缺陷：
  • 计算复杂度高：在针对两个d维的直方图的optimal transport distance时，至少需要。当测度空间嵌入到，在高维直方图上计算该距离的成本是非常巨大的。
  • 稀疏性：由于计算原始optimal transport distance的是在求解线性规划问题，因此最优解通常出现在可行域的顶点处，落在顶点处的解通常是比较稀疏的。例如对于两个维直方图，使用线性规划求解的传输方案为的稀疏矩阵，且最多有个非零元素，从概率角度看，如果，具有很少的能使得。即一个仓库偏向于只为少量（甚至一个）仓库供货。这样的稀疏可能并不符合实际场景，以至于计算得到的并非最优解。
Sinkhorn Distance便是针对这两个问题提出的一种lightspeed computation、sufficient smoothness的optimal transport distance。

回顾optimal transport distance

这里对上面提到的原始optimal transport distance做一个形式化描述：
对于在单纯形中的两个概率向量和，记到的所有传输方案集合为：
表示全1的列向量，包含了行和列总和分别为和的所有非负矩阵。对于取值均在的两个多项随机变量和，每个变量分别具有分布和，包含了所有关于的联合分布。对于，有。
那么对于和间的optimal transport distance定义为：
其中代表Frobenius dot-product（矩阵对应元素相乘的和，相当于对Hadamard product的结果求和）。在有些论文中，上述的表示可能是：

最大化熵

Sinkhorn Distance提出将(4)中的进行smoothing，在机器学习领域很容易想到的就是最大化熵，即最大化，下面先探讨一下的上界。
符号说明：
由[7]中的公式知：
因为是和的联合分布，那么根据(6)有：
因此的上界是。显然h(P)不能严格靠近其上界（会导致过度平滑），且与上界的距离不应超过一定阈值（否则会过度稀疏），即：
且易证：， ，
notion image
notion image
 
因此有：
用(9)来约束得到：
其实直观上看，这个约束就是将运输方案和拉近。（那么这个到底是什么呢？见补充部分。）

定义

根据上述，可以得到Sinkhorn Distance的定义：
一般有了定义，会探讨有哪些性质，这里就不展开了，有兴趣的可阅读文献[1]。
简单来说，在不是特别小或者特别大时，满足对称性和三角不等式。

对偶形式

直接求解(11)式是比较棘手的，可以考虑(11)式的对偶形式：
对(11)中的每个，都能在(12)中找到合适的使得 成立。如此便将较复杂的约束转换为惩罚项。这里的被文献[1]作者称为dual-Sinkhorn divergence。
这里文献[1]作者给了一个描述原始optimal transport distance 、Sinkhorn distance 以及dual-Sinkhorn divergence 之间关系的示意图：
notion image
由上图看出，可以从0逐渐增大，来找到满足的。然而在实际使用中，这样去找是不切实际的（会带来很多计算量），因此通常靠先验来选择可能合适的。
⚠️从公式(12)中可以看出，（求解公式(12)的过程中）的熵随着（预定义的）的增大在递减。也就是说，如果选了太大的会导致公式(12)得到的的熵偏低，因此不宜太大。

使用Sinkhorn’s theorem求解

得到(12)形式的dual-Sinkhorn divergence后，使用拉格朗日乘子法，可以得到：
其中是两个等式约束的系数。对求导并令，得：
注：这里文献[1]作者可能是将对数的底数当作来进行处理的。
根据(14)可知应该有这样的形式:
其中，中是待求的两个向量。
根据文献[8]所提出的Sinkhorn’s theorem可知：中有且仅有唯一的能表示成的矩阵，并且可以通过Sinkhorn’s fixed point iteration来求解：
文献[1]作者给出了Matlab风格的伪代码：
notion image
原文还给了其他有趣的证明和说明，有兴趣的可以阅读原文。这里就暂不往后阐述了。

Python代码

在参考大佬们的Sinkhorn distance实现后，为了接近原文伪代码，我稍做了修改后的Python代码：
完整demo见zfhxi/Sinkhorn-Distance-Python。
下面是该demo的可视化结果：
分别是分布r、分布c、r和c之间的距离、以及rc的可视化
分别是分布r、分布c、r和c之间的距离、以及rc的可视化
上图可以看出是相当光滑的。
“使用线性规划求解的EMD运输方案”和“Sinkhorn运输方”的比较
“使用线性规划求解的EMD运输方案”和“Sinkhorn运输方”的比较
上图可以看出相比于线性规划求解的运输方案，Sinkhorn distance得到的运输方案更加平滑。
“使用线性规划求解的EMD”和”Sinkhorn distance“的直方图“堆土”的方案比较
“使用线性规划求解的EMD”和”Sinkhorn distance“的直方图“堆土”的方案比较
上图可以看到，Sinkhorn将直方图切分成更多的块，那么对应到实际场景，可能带来的问题是：运输货物时需要更多的车辆，或者说需要运输多次……

补充

KL散度、JS散度、EMD距离的优缺点

  1. KL散度不具备对称性且不满足三角不等式，仅考虑边缘分布；
  1. JS散度具备对称性，但在两个分布距离较远（比如均值差异大）时，变成一个常数，且仅考虑边缘分布；
  1. EMD对称且两个分布距离较远时仍能有效衡量距离，考虑了联合分布，但其计算复杂度比上面两个距离都要高出很多。

代表什么

根据文章[2]的解释并结合上面提到过的例子，意味着：
  • 只有中数值比较高（较低）的索引和中数值较高（较低）的索引相乘后才能使得更高（更低）；
  • 并且中数值比较高的索引和中数值较低的索引相乘后并不能使得更高。
也就是说：
  • 对于一些仓库来说，如果它存储量更多，就应该运出更多货物；对于工厂来说，如果它需要更多，就应该从每个仓库那里按比例获得更多。
  • 对于货物存储量很多的仓库，它不会主要向需求量少的工厂运输货物。
代表了一种十分光滑的运输方案，见demo中的可视化图。

不动点迭代法

什么是不动点迭代法参考：不动点迭代法—单变量非线性方程近似根matlab求解 - 知乎 (zhihu.com)

相关待读

当Top-k遇到深度学习 - 知乎 (zhihu.com)
 

参考

  1. Sinkhorn Distances: Lightspeed Computation of Optimal Transport (nips.cc)
  1. A simple introduction on Sinkhorn distances | by Jianfeng Wang | Medium
  1. Wasserstein GAN and the Kantorovich-Rubinstein Duality - Vincent Herrmann
  1. https://kaizhao.net/blog/optimal-transport
  1. Sinkhorn 距离简单易懂！ - 知乎 (zhihu.com)
  1. 最优传输理论 | Curiousity Hub (lccurious.github.io)
  1. Elements of Information Theory
  1. Diagonal Equivalence to Matrices with Prescribed Row and Column Sums. II on JSTOR
]]> <![CDATA[长命令行自动转成为Vs Code的launch.json]]> https://idzc.top/article/202304060000 https://idzc.top/article/202304060000 Thu, 06 Apr 2023 00:00:00 GMT

调试场景

在Vs Code上进行python项目调试时，通常要创建launch.json，步骤如下：
BEGIN 以下内容由AI生成 BEGIN
以下是将长命令行转换为Vs Code的launch.json的步骤：
  1. 打开Vs Code，点击调试按钮，并选择“添加配置”。
  1. 选择你的程序的语言，这将自动生成一个launch.json文件。
  1. 打开launch.json文件，并在“configurations”数组中添加一个新的配置。
  1. 为新配置命名，并在“type”属性中指定你的程序的调试器。
  1. 在“args”属性中添加你的程序所需的所有参数。这些参数应该是一个数组，每个参数都应该是一个字符串。
  1. 保存launch.json文件。
现在，你可以使用Vs Code的调试功能来启动你的程序，而不必再输入长长的命令行参数了。只需打开调试选项卡，选择你的新配置，然后点击“启动调试”按钮即可。Vs Code会自动使用你在launch.json文件中指定的参数启动你的程序。
END AI生成 END
 
假如我在尝试调试一个YOLOX项目，其运行时的命令行是：
我按照上面的配置步骤得到launch.json：
 

脚本自动转换

由于我个人经常需要调试各种长命令行，每次都按照上述方式创建launch.json的话，太浪费时间了（自己太懒）。因此撸了一个python脚本，来实现自动将命令行转成launch.json来进行调试：
使用示例（假设脚本命名为launch_json_generator.py，且在Vs Code工作区根目录）：
]]>