啥是数据迁移 在我们平时的开发过程中,经常需要对一些数据进行调整。一般会有以下几种场景: 1.需要新的数据表 我们的接口自动化平台虽然已经较为完善了,但难免会继续迭代一些
啥是数据迁移在我们平时的开发过程中,经常需要对一些数据进行调整。一般会有以下几种场景: 1.需要新的数据表我们的接口自动化平台虽然已经较为完善了,但难免会继续迭代一些新的功能,假设我们需要做一个订阅用例的功能。 大体想一下就可以知道,订阅用例以后这个数据得持久化(即入库),这样我在查询谁订阅了这条用例的时候,就能获取到订阅人,订阅时间等数据。 这也就意味着我们需要一张订阅表,里面至少得有订阅人和订阅的id,以及订阅时间这3个要素。体现在数据库通俗点说就需要:
由于业务的变动,导致新的数据表诞生。 2.需要对现有表结构进行调整当我们的订阅表完成以后,有的同学就发现了,这个订阅好像不能取消,所以我们此时可能需要一个新的字段: isValid,这个字段用来判断用户是否取消订阅了这个用例,如果我订阅错了,或者嫌消息太多,想取消订阅,那还是得满足需求的。 包括新增字段/修改字段/删除字段,这些都会对数据表产生影响,导致我们需要改动数据库。 回到ORM我们目前采用sqlalchemy作为我们的orm,如果只需要修改Python的Model类(操作字段就加在Model类里面操作)该多好。这样的话,我们依然不需要去写很基础的sql语句,就能达到修改表结构的目的。而这个,就是我们今天要讲的数据迁移。因为数据需要发生变化,orm与数据库的逻辑对不上号了,所以我们需要迁移。 迁移手段目前市面上,关于Django(自带orm)和Flask这块都很成熟,django因为有自带的orm显得更牛逼,在manage.py里面自带了migrate(迁移)的命令。 而我们今天要讲的fastapi,由于不像django那么全面,所以我们采用alembic(sqlalchemy作者编写)来帮助我们完成数据迁移操作。 如果你也用的fastapi+sqlalchemy,那我们就一起来耍耍i! 注: sqlalchemy只自带create_all(建立全部表)的功能 安装alembic大家采用虚拟环境和全局安装都可以,我的建议是全局安装,因为我们可能会在多个项目使用它。
初始化项目我们在python项目的根目录输入以下命令:
alembic是我们刚才安装的工具,init则是初始化的意思,后面的alembic则是迁移文件夹的名字,一般我们会默认叫alembic,以便于其他人一眼就知道是干嘛的。 修改alembic.ini执行完成之后你会发现根目录多了个ini配置文件和alembic文件夹,我们需要稍微修改下配置文件: 将alembic.ini中的sqlalchemy.url改为你数据库的jdbc连接地址,以我的为例: 修改alembic/env.py首先我们找到里面的target_metadata变量,默认是None。接着在target_metadata = None上方加入如下代码:
然后我们需要引入我们的model目录,由于在pity里面,最后的初始化建表工作都是在curd目录进行的: 所以我这边是引入crud里面的Base。这个Base是啥玩意呢? 我们使用sqlalchemy,都需要引入各种model,这些model最终都会被加入到Base.metadata,这样sqlalchemy就知道你有哪些表需要处理了。 我们继续修改env.py,也就是告诉alembic你有哪些数据表(上文说的, 数据表都在Base.metadata)。
开始生成迁移工作要注意,我们配置这么多东西是为了让alembic知道你的model都在哪,你的数据库怎么连,这样它才能去对比差异并生成结果。
稍作等待,我们可以在alembic/versions目录看到对应的py文件: 里面会有drop_column(删除字段)这样的操作信息。但要注意,这并没有真正修改数据库。 变更数据库
执行上述命令,alembic就会根据你当前的版本(应该是你刚才生成的version的py脚本)去执行数据库变更操作。 这样,一个简单的迁移工作就完成了。接着我们聊聊注意事项。 FAQQ. 版本py脚本无变更信息出现 A. 请检查你的数据库是否真有变更,检查你的数据库url是否正确,检查你的model是否引入正确,如果操作都没问题,可以删除alembic目录和ini,重复上述操作(我昨晚就是这样的) Q. 为什么字段重命名没有产生变更 A. 这玩意只校验了新增/修改/删除字段,这里的修改指的是字段的nullable这种修改,所以改字段名它不会检测。 Q. 我数据库里面有表没有定义到model,为啥变更给俺把表删除了? A. 这个问题我也发现了,应该是有什么配置可以配置不删除未找到的表,但我目前还没有去研究,有后续会在底部留言。 最后,这个玩意相对比较鸡肋,建议不要大批量变更。可以频率高一点,比如有一点点改动就用它变更一下,而不要在史诗级改动的时候使用它。我个人的整体感受是,不太好用,但勉强能用。(因为暂时没有发现更合适的) |
2019-06-18
2019-07-04
2021-05-23
2021-05-27
2021-05-27