众所周知,TypeScript 在 #13940 中开放了 transformer
的API,在此之后, 这些 API 已经成为在 TypeScript 生态中编写代码生成器(codegen
),代码转换(transformer
)的普遍方式。同时,目前这些 API 也有它的一些缺点。
本文将分享与分析作者在开发 ts-upgrade (将旧版本 TypeScript 代码转换为新版本语法的工具)过程中遇到的问题,思考以及解决方案。
TypeScript 目前提供了将代码解析为 AST, 并且进行转换的 API。 让我们通过一个简单的例子了解它。
foo
标识符 转换为 bar
标识符首先,我们要将代码解析为 AST,以 let foo = 42
为例:
可以看到,调用 TypeScript 编译器解析的过程非常简单。接下来,我们创建一个非常简单的 transformer
:
在开发 transformer 的过程中,可能涉及许多 TypeScript 的数据结构,我们可以使用 ts-ast-viewer 查看 AST 的结构并且获取生成对应代码的工厂函数。 然后我们尝试转换并生成代码:
可以看到,最后生成的代码已经如我们所预期的,将标识符 foo
改为了 bar
。为了验证,我们再尝试一下:
以上就是一个简单的 transformer
。
显而易见,我们可以由 transformer
实现基于 AST 节点的宏,即判断某些节点,并替换为其他内容。但是由于 transformer
在解析后才被执行,所以不可以像其他语言的宏一样修改/扩展语法,这也是它的限制。
transformer
API 非常简洁好用,但是它同样也有一些缺憾:
transformer
API 解析代码后,重新根据 AST 生成了新的代码。由于在这一过程中,丢失了很多信息,例如:空行,缩进等,因此通过 transformer
API 转换后的代码相比原有的代码会有很多的改动。如果我们的目的是修改已有的 codebase,那么这是不可接受的。transformer
的编写非常痛苦。针对这些问题,作者经过一些尝试,找到了另外一种“新”方法。
并且 TypeScript 在编译器之外,还提供了 language server
的功能,它为众多编辑器提供了例如“快速修复”,“重构” 等功能。这些功能会增删改代码,并且几乎不会修改原本的格式,而这些操作则是由被称为textChanges
的 API 所提供。所以可以说,textChangs
并不 ”新“,只是很少暴露于视野中。
我们可以看到,TypeScript 在解析代码时,记录了每一个节点的位置:
在获取到这些信息后,可以通过字符串操作更新代码。而textChanges
就是基于这些信息进行代码编辑的 API。
由于 textChanges
基于字符串操作进行,不会涉及其他代码,因此不会有上文中代码格式变动方面的问题。由于同样的原因,它并不要求在访问公共父节点时操作,提升了编辑时的灵活性。
并且我们在编辑代码时,并不只是简单的文本替换,还需要考虑到例如代码格式方面(例如逗号)的问题。自行处理的话需要花费非常大的精力,而 textChanges
作为 TypeScript 用来提供代码编辑的接口,本身处理了大量的 edge case。本着不重复造轮子的原则,我们选择其作为编辑代码的另一种选择。
下面作者简单分享一些在ts-upgrade
中使用 textChanges
API 的实践。
不幸的是 textChanges
目前仅被内部使用,并没有开放 API。但是由于我们最终运行的是 JavaScript
,而这些 API 仅仅是没有提供类型定义,所以我们可以手动为这些内部 API 添加类型定义。例如:
这些类型定义都可以从 TypeScript 仓库中提取,可以访问 类型定义 查看完整的 API。
使用 textChanges
需要构造 LanguageServiceHost
,其中有一些涉及 TypeScript Compiler Host 与 VFS 的细节在此不再赘述,可以查看 hosts.ts 与 upgrade.ts了解更多。
下面我们重新使用 textChanges
API 改写上面的例子
可以看到,在遍历 AST 时,不再需要返回更改后的节点,而是由 changeTracker
记录。在遍历结束后统一应用。这样在处理同级的节点时,只需通过各种手段(例如 Symbol
, 可以查看 NamespaceExport 了解更多)获取到相应的节点即可。
正如 ”没有银弹“ 所说的那样,textChanges
也不是全无缺点:
针对不支持重叠编辑的问题,作者进行了一层抽象,即进行多次遍历/编辑操作,若编辑操作有重叠,则仅会记录首次操作,其余操作将被忽略。而如果有操作被忽略则会进行另一次遍历,直到没有重叠为止。可以查看 changes.ts 了解更多。
transformer
与 textChanges
都是进行代码编辑/转换的接口,在实际开发中,应根据自己不同场景和实际的需求,选择最适合自己的工具。
感谢阅读。