Maeiee的成长周报

Maeiee 成长周报 W15(2024-05-04~2024-05-10)

本周,最大的产出是 RayMark 网站频道上线。这是一个资讯频道,我会将自己看到的高质量资讯通过 RayMark 分享出来。目前处于试运营阶段,许多功能、迭代已在酝酿中,敬请期待!

RayMark 使用 Eleventy 静态站点生成器Tailwind CSS(daisyui 组件库)前端框架开发,都是非常优秀的技术,值得推荐!

我的开源项目 didi/Unify,也进行 README 及 Examples 更新,欢迎使用 Flutter 的小伙伴体验、试用。项目介绍如下:

An efficient, flexible Flutter-Native hybrid communication framework for seamless module integration and automatic code generation.

在学完《从零训练GPT》之后,沿着 Andrej Karpathy,大佬的脚步,来到 micrograd 自动微分知识。在《从零实现自动微分框架》这篇新笔记中,记录了我的自学体会。目前还没写完,仍在梳理中。原来自动微分是以微分的定义,以数值计算的方式计算的,在我感性认识中,还以为是像 SymPy 那样符号推导的。

发现了《专业 Emacs 入门》这一教程,写得确实好,值得推荐。借助这一教程,本周也对 Emacs 进行自学。具体笔记可参见数字花园归档页

还学了《Electron》,主要是读《Electron in Action》一书,这本书写得也非常好,值得推荐。

对于付费专栏,目前已经有 10 位朋友订阅,感谢支持!本周更新专栏文章:

我的这点儿道道,都记录在专栏里了。欢迎大家订阅支持,也激励我创作更多笔记、文章。活动:目前专栏五一活动中,可享4折优惠,只要 ¥4!领券地址:传送门

本周跟媳妇看完《辐射》美剧,很精彩,值得推荐!也开始玩《辐射4》,做了一件很搞笑的事情,把《辐射4主线剧情记录》、《辐射4基础操作记录》都记录下来了,否则很快就又忘记了!


Maeiee 成长周报 W14(2024-04-20~2024-04-26)

在读《家庭的觉醒》,也非常好,与上一本《正念教养》有不少共通之处,与早先读的佛学、正念也有关联。让我感觉到,智慧存在共性。

本周最大的产出,是编写《从零训练GPT》一文,果然纸上得来终觉浅,只看大神的视频是不够的。在重新讲述的过程中,才发掘原来很多地方自己完全不理解。

写作过程中,AI 给予了我很大的指导与帮助。我逐渐摸索出一种模式,通过在 Obsidian 中持续写作,借助我开发的《maxiee/obsidian-knowledge-weaver》编织上下文,借助 AI 的长上下文能力,不断提问、写作。这使我具备了高效自学任何知识的能力。我将在下一篇付费专栏中分享这一经验。

Flutter 方面,本周最大的收获,是《Flutter json_serializable 实现原理》,对 json_serializable 这个常用库的原理,进行了彻底研究。

另外,我的 SideProject RayMark 也走通了发布流程。不过该项目还未达到正式发布的程度。我现在佛系多了,好处是有充足的实现构思、思考。

还利用碎片时间,梳理了点 Emacs,不一一列举了,打开侧边栏自取即可。感慨 Emacs 博大精深。我发现,它的文学编程思想,社区文档、代码的完备性,似乎很合适炼 LLM,做个 EmacsGPT 似乎不错。

最后,还是给我的付费专栏打打广告,专栏进行打折促销,原价 10 元/三个月,折后价 4 元/三个月。专栏地址:【Maeiee成长感悟】

本周发布了两篇专栏文章:

目前,付费专栏的订阅用户为 1(我媳妇)。想必也确实未能为大家提供足够的价值。我会坚持写作,让专栏的内容更加厚重一些。

如果我的数字花园、专栏对您有所帮助,欢迎订阅专栏,多多支持!


Maeiee 成长周报 W13(2024-04-13~2024-04-19)

《正念教养》这本书读完了,非常好,五星推荐。我从未想过育儿与正念还能有关系,读了之后才恍然大悟——正念与生活息息相关,育儿当然也涵盖其中。

有一个大的成果:过去一两年,我在公司内开发的一个框架 Unify,正式作为滴滴官方项目开源啦!https://github.com/didi/Unify

Unify 是一个高效、灵活、易用的 Flutter 混合开发框架,旨在解决 Flutter 与原生模块之间的通信问题。它支持平台无关的模块抽象、灵活的实现注入、自动代码生成等特性,显著提升了混合开发的效率,降低了维护成本。

熟悉 Flutter 的小伙伴会知道 Google 有一个同类的 Pigeon 框架。Unify 是受 Pigeon 启发,但是采用独立实现方案,独具特色,适合于大型 App 的大规模通信场景。

欢迎大家了解,试用!如果觉得好的话,希望能点一个 star 支持一下!如果觉得不好,也欢迎批评指正,提 issue、直接联系我都行~

这个项目与我今年的 OKR 息息相关,大家多支持,我年底也能给娃多挣点奶粉钱!!

最近在筹备《从零训练GPT》一文,仍是草稿状态。如上周所说,当作对 Andrej Karpathy 的《Let's build GPT》和 3B1B 的《Visualizing Attention》 ,进行复习,按照我的语言再讲一遍。在这一过程中,查漏补缺。

并且,在五一后,我将在公司组内进行《从零训练GPT》分享。我准备以直觉角度,把 GPT 给大伙讲明白他。也通过费曼学习法,让我自己进一步加深理解。

闲暇时间,我在阅读 Emacs 文档。我将此作为一项长期工程。Emacs 这个软件太优美了,我对它无欲无求,完全从欣赏的角度研究。笔记有《Emacs Packages 缓冲区》。

最近我开通了一个付费专栏【Maeiee成长感悟】, 记录我在成长过程中的思考与感悟。

本周,发表了专栏文章:《Vol.004 黑马、白马、骑手与缰绳》,这是读《正念教养》时,我的心得体会。揭示了人性中本能、情绪和理智三者的互动关系,以及我在让自己更加情绪稳定、理智方面做出的一些努力。

为了迎接五一到来,专栏进行打折促销,原价 10 元/三个月,折后价 4 元/三个月

专栏地址:【Maeiee成长感悟】

未来,我会保证一到两周的更新频率。也欢迎大家多多支持!你的支持就是我写作的动力!


Maeiee 成长周报 W12(2024-04-06~2024-04-12)

上周说,这周要开发『Maeiee 精选』频道。这周光顾着早睡(并没有早起),加上病了一场,一点没弄。但是我发现我又成长了,内心毫无焦虑,十分坦然。我清晰地知道接下来要做什么,周末一旦有时间,无成本启动。最重要的是,这个过程中避免了内耗,让我能更充足休息。可能是休息的好,这次生病也很轻。

现在目标感没有之前那么强,学的东西反而更多了,而且都是意外收获。

首先,这周突发奇想,用 C++ 把 skia 跑起来了。这可不得了,这是把 Flutter 连根刨了。于是乎,Flutter 最最底层的部分都悟了。《Flutter Surface》、《Flutter GPUSurfaceGLDelegate》、《Flutter GPUSurfaceGL》。

不仅如此,我现在在仿照 Flutter 写一个 miniFlutter,我希望未来能够写一个系列教程,名为《手把手从 0 教你写个 Flutter 框架》。如果再进一步,看热闹不嫌事大,可以基于 React Native Skia 写一个 Relutter,Skia + WASM 也是可玩性很高的选项。

本周工作上依旧研究 Flutter 嵌入原生视图。对《Flutter PlatformViewsChannel》、《Flutter PlatformViewsController》有了更深层次理解。

抽空还梳理了一些 Flutter 开源库《Flutter Open Souce Libraries》、调研了《Flutter 多 Flavor 代码隔离方案》。

本周收获最大的是,学完了 3B1B 的《《Visualizing Attention, a Transformer's Heart》笔记》。最大的收获,是通过该视频建立起对 Attention 模型的直观理解,尤其是对语义空间的可视化演示,帮助我理解得更加透彻了。

另外,还给自己挖了个大坑,半个月后轮到我组内分享,我定的主题是《从0实现一个GPT》,准备借此机会,把我过年学的《Let's build GPT:from scratch, in code, spelled out.》和 3B1B 教程做一个汇总,然后再加入一点自己的魔改(比如使用中文友好的 Tokenizer)。

其他时间里,还在读书。目前在读《正念教养》,非常好。周末准备以书中主题,写一篇专栏文章。

说到专栏,差点忘了:我开通了一个个人专栏(付费),在专栏中会分享我的成长感悟。这些感悟包括我的生活、副业研究、学习方法、育儿学习……更加偏感性,与偏理性的数字花园互为补充。

相信专栏能够给大家带来不一样的价值和温暖。专栏地址:Maeiee成长感悟。希望大家多多支持!


Maeiee 成长周报 W11(2024-03-30~2024-04-05)

上周说的早睡做到了。总得来说,利大于弊,精神状态好了很多。精神的韧性增强,心态也更加平和。

不熬夜,觉睡得多了,节奏放慢了,东西反而没少学。这是为什么?我发现内耗大大下降,启动成本大幅下降,几乎变为零。想学什么便学,想做什么便做。不用宏大叙事、信誓旦旦,顿足捶胸。哪怕是一件很复杂的事情,也不为麻烦而担心,只是以平常心行动,并在做的过程中,发现事情没有想象中那么可怕。一切就这么平静地进行着。

最近在筹备一个大活,想为我的个人网站,除了数字花园外,再添加一个『Maeiee 精选』的资讯板块。与我平时的信息采集系统打通,把我收藏地资讯发布出去。以期为网站带来更大的流量,用流量转换更多广告收入,为我的副业之路添砖加瓦。

本周的自学内容也是围绕这个网站,首先它将基于 Eleventy 静态站点生成器,我的数字花园所采用的 Obsidian-Digital-Garden 插件也是基于该生成器的,一举两得。为此,我学了《Eleventy Layout》、《Eleventy Front matter》、《Eleventy 静态资源》、《Nunjucks 模板语言》、《Eleventy 全局数据》、《Eleventy Collection》、《Eleventy 远程数据》、《使用 Eleventy 搭建静态博客》、《Eleventy RSS》。

除此之外,还了解了使用 gulp 搭建前端构建流水线。目前正在学使用 Tailwind CSS 网页布局样式。

对于 qutebrowser,本周梳理了《qutebrowser 窗口管理》,掌握了通过代码操纵多窗口的技术。

在 Flutter 开发部分,梳理了对 mongo_dart 的使用。

继续读《深度学习原理与PyTorch实战(第2版)》,本周完成了《PyTorch 卷积神经网络》。

下周重点继续对『Maeiee 精选』的开发。这个项目很复杂,包括资讯采集、资讯筛选、CMS、静态网站生、前端开发。换作过去的我,会熬数十个大夜,顿足捶胸,双向情感,内耗极大地搞。如今,只感觉宁静平和。

两岸猿声啼不住,轻舟已过万重山。


Maeiee 成长周报 W10(2024-03-23~2024-03-29)

本周最大成长是生活习惯上的:《Vol.003 准爸爸日记:早睡早起》。目前已经坚持两天了,有优点,也有不足:

不过也越来越像正常人了。最近身体不好,先这么调理一段时间吧。

反省我与 AI 的关系:《Maeiee思考1:我在AI浪潮中的位置》,不要光凑热闹,更要充实自己,努力提到。

因此开始学基础《前馈神经网络》、《PyTorch 线性回归》、《通用逼近定理》、《PyTorch 单车预测器》、《Softmax函数》、《ReLU》、《PyTorch 神经网络分类器》、《词袋模型》。

其中的 PyTorch 实例都来自于《深度学习原理与PyTorch实战(第2版)》这本书,之前读过一遍,这是二刷。

Flutter 部分,完成了对《Flutter Android Hybrid composition 实现原理》的梳理。对《Flutter 内嵌原生视图能力》也可告一段落。

另外,在电子书库最佳时间上,感觉还是《NAS 使用 Calibre 搭建远程挂载电子书库》使用 Calibre GUI 版更好一些。

下周做什么呢?继续刷《深度学习原理与PyTorch实战(第2版)》,然后想把 qutebrowser 再继续搞一搞。


Maeiee 成长周报 W9(2024-03-16~2024-03-22)

大部分时间都在读《分娩·坐月子(马良坤科学孕产育儿)》一书,写得很好,青岛出版社出版的。有感而发,写了一篇《准爸爸日记1:什么?我要当爹了?》。

NAS 搭建 talebook 管理电子书》搞得比较成功,我决定用它作为我长期的电子书管理方案。而且我发现,使用 talebook 在线阅读器,阅读英文书籍时,还能蹭到沉浸式翻译!

大模型编年史》大模型领域依旧疯狂,每想到有那么多聪明才俊,奋斗在 AI 的前沿领域,都会让我彻夜难眠。我就像珍妮纺纱机的操作工,眼睁睁看着大机器时代将我淘汰,却不丝毫不敢怠慢手中的生计。

Flutter 内嵌原生视图能力》依旧在研究,它就是我的珍妮纺纱机。《Flutter PlatformView 桌面端支持现状》调研下来依旧不容乐观。

未来相当一段时间内,孕育都是我研究的主要课题,我到了上这一课的时候。其它时间里,由着性子来,随性而学,所学经验依旧会通过笔记发出来。


Maeiee 成长周报 W8(2024-03-09~2024-03-15)

本周重点研究语言模型的个性化微调。开发了一款实验性软件 maxiee/HeartEcho,这是一款 LLM 在线式持续学习软件,可以一边训练一边与模型对话。

这个软件很好玩,我一边刷微博,一边把看到的内容喂给他。但小样本语料很快就会造成模型过拟合。后来我搞明白了Batch Size 的概念,多条语料一起喂,情况好了一点。但这种肤浅的折腾是缺乏理论支撑的,更多是建立对微调的体感。

本周读了两篇论文,一篇是 GPT-3 的提出论文《Language Models are Few-Shot Learners》论文阅读,了解了大模型的 In-Context Learning 能力,这让我知道 Prompt Engineering 远比我认为的有用。第二篇是一篇持续学习综述《A Comprehensive Survey of Continual Learning:Theory, Method and Application》论文阅读,我在 HeartEcho 中的玩耍,在这篇综述中也能找到对应。

Flutter 仍在继续研究,研究了 Flutter Android Hybrid composition 实现原理,也连带研究了Flutter 渲染流水线

本周 Claude3 的发布堪称惊艳,它的超长上下文能力,给我带来了全新的使用体验。我探索出一种新的模式,在提问时,我会尽可能地补充背景信息,形成一篇超长提问,模型在回答时能够实现与我“上下文对齐”,这样给出的回答是极为设身处地的。为此我还开发了一个 Obsidian 插件,将在周日发布。

下期预告:下周,我将进入一个我从来没有进入过的话题,迎来我人生中最大的转变之一。

Flutter 部分,依旧是在研究Flutter Android Hybrid composition 实现原理,在这过程中完成了对Flutter 渲染流水线的梳理。


Maeiee 成长周报 W7(2024-03-02~2024-03-08)

我逐渐找到适合自己的节奏,即一周学新知,一周温旧知,最为舒适。本周是温旧知,对数字花园进行了一番整理。不过,虽说是温旧知,还是按耐不住好奇心,体验了 Stable Diffusion

首先完善了《Obsidian-Digital-Garden》笔记,这是一个 Obsidian 插件,用于生成数字花园站点,本站也基于该插件生成。目前,我的 Obsidian数字花园、写作的工作流已经如鱼得水了。

本周,对数字花园还进行了一些高级改进:

文章 介绍
Obsidian-Digital-Garden 文件树实现原理 站点侧边导航栏,全面提升了我的写作组织力。并且该目录同时也在 Obsidian 中使用,两者完全对应。
Obsidian-Digital-Garden CSS 样式优化 优化 CSS 布局,提升阅读体验
数字花园归档页 本站发布了诸多笔记,但是“透”不出来。有了归档页,全部出来了。这也依赖于 Obsidian-Digital-Garden 插件对 DataView 的天然支持,非常强大!
为站点增加了版权信息页 这使用了 Obsidian-Digital-Garden 的 SLOT 定制特性,站点框架的扩展性非常强大。
我还开通了『爱发电』 喜欢我文章的朋友请随缘打赏,鼓励我创作更多更好的作品!maeiee正在创作技术写作,分享互联网技术 | 爱发电

另外我发现 Obsidian-Digital-Garden 模板底层基于 Eleventy 静态站点生成器,未来有时间再研究。

介于本周数字花园进展顺利,于是我提前进入以下一个主题——StableDiffusion

主要简单体验了《Stable Diffusion web UI》的《Stable Diffusion 生成线稿》和《Stable Diffusion 线稿上色》功能,很惊艳!其它零散笔记可参见侧边栏,这里不再赘述。

在工作中持续研究 Flutter 的原生视图嵌入能力,目前研究到 Hybrid composition 模式,具体可参见《Flutter Android Hybrid composition 实现原理》。

另外,还学到了如何在 btrfs 下创建 swap file,具体可参见《Linux btrfs 文件系统》。


Maeiee成长周报 W6(2024-02-24~2024-03-01)

本周继续研究 LLM,重点研究了 DLLXW/baby-llama2-chinese 项目。跑了一个预训练过程,收获颇丰,相应过程总结于《baby-llama2-chinese 实践笔记》。

在《Maeiee思考1:我在AI浪潮中的位置》中,我思考了作为个人在 AI 浪潮中的定位。善用已有 AI 工具对个人是价值最高的事情。重点学了《ChatGPT Custom Instructions》。

在《Maeiee思考2:LLM连续微调游戏》中开了一个脑洞,还没有时间搞,开了一个空 GitHub Repo maxiee/HeartEcho(中文名『心声』)。

工作上 Flutter 继续研究《Flutter 内嵌原生视图能力》,开始对 Hybrid composition 模式研究。

时间依旧不够用,连续熬夜,身体也有点扛不动,后面得适当早点睡。

下期预告:Obsidian-Digital-Garden 插件源码分析,敬请期待!

Maeiee成长周报 W5(2024-02-17~2024-02-23)

本周对我的个人系统进行完善。

Maeiee系统搭建迭代1》:个人系统迭代记录。

Maeiee 的网络冲浪之旅》之《Maeiee系统之关键词管理》:关键词重要性。

Obsidian QuickAdd》功能调研。

每天只能进步一点点。每天进步一点点已经很不容易了。心急也没办法。耐下性子来,每天进步一点点、一点点。复利效应是可怕的,五年后看呢,十年后看呢。但行好事,莫问前程。


Maeiee成长周报 W4(2024-02-10~2024-02-16)

坚持把《「Let's build GPT:from scratch, in code, spelled out.」课程笔记》完成了,19个步骤,1.2w 字,文字记录从0构建GPT!一开始看不懂,真的很崩溃。好在网上资料多,一点点钻研,最后能看懂了!这篇笔记伴随我过年,从北京到青岛再到扬州,在火车上也在钻研。感悟就是:不要怂,不要自己先被吓倒。

在研究 LLM 过程中,还发生了一个插曲,Arch Linux 滚出问题了。后来经过一番排查,参见《联想小新 Duet Linux 花屏问题》和《记录一次 Arch Linux 图形加速丢失问题排查》,并尝试编译最新 Linux 内核和 mesa。了解了一些知识,最终问题成功解决。

我发现,提前规划的目标只是一方面,计划赶不上变化,通常会乱入一些事情,比如 Arch 滚挂。乱入的目标更有价值。不要因为有了既定目标而排斥乱入目标,拥抱变化,两者共同推进。


Maeiee成长周报 W3(2024-02-03~2024-02-09)

本周目标,啃《llm-course》,完成《Attention》笔记一篇,目前处于《「Let's build GPT:from scratch, in code, spelled out.」课程笔记》当中,该视频由 Andrej Karpathy 大佬所录,共有1小时56分钟,目前啃完了 40 分钟。我决定要坚持啃完该视频,因此下周将继续啃该视频,一周不够就两周,什么时候看完了,再学别的。

博客笔记


Maeiee成长周报 W2(2024-01-27~2024-02-02)

博客笔记


Maeiee成长周报 W1(2024-01-20~2024-01-26)

2024 年每周记录学习周报,记录自己的成长。

个人网站新首页

之前个人网站比较乱,我更换了新的博客首页,对几个子站实现导航,也链接到我的几个社交媒体平台。新版首页使用了到一个优秀的开源项目,详情可参见《使用 links-website 快速搭建个人网站首页》和《个人博客网站与写作》。

博客笔记

本周博客比较高产,感觉一周被我活出了一个月:

开通小红书

本周还有一件大事,是我入驻了小红书平台。我的小红书内容会与微博有所差异化:

欢迎大家关注我的小红书账号(地址

Camera_1706028839075.jpg

酝酿中

afdian-maeiee.jpg


本文作者:Maeiee

本文链接:Maeiee的成长周报

版权声明:如无特别声明,本文即为原创文章,版权归 Maeiee 所有,未经允许不得转载!


喜欢我文章的朋友请随缘打赏,鼓励我创作更多更好的作品!