导语

2020 年高考报名人数达到 1071 万人,再创历史新高。在今年的高考落下帷幕之际,介绍一款基于云开发 CloudBase的高考录取分数线查询小程序,希望能为考生的志愿填报提供便利。

技术文档:https://cloudbase.net

img

数据来源

小程序后台共收录近 30w 条数据,包含 2008-2019 年大部分重点高校的各个批次的文理分科录取分数线以及 2008-2019 采用新课标一卷、新课标二卷、新课标三卷以及部分自主命题省份的、从提前批到高职专科批的大部分录取分数线,内容较为翔实。

img

所有数据均采集自各大院校和各高考相关网站,由于数据量巨大,为提高速度,使用了 concurrent.futures (需要 Python3.5+) 模块里的 ThreadPoolExecutor 来构建线程池来并发执行多任务。

数据库采用的是 PgSQL,所有数据均存在新建的 gaokao 数据库中,其下有两个表,university(院校的录取分)和 province(省份的批次线)。

img

img

30w 的数据量,多个站点,并发爬取,数据冲突是不可避免的,在执行插入之前,首先过滤掉残缺不全的数据,比如在插入 university 表时某条数据缺少 pc 字段,那么这条记录就应该被舍弃。

最严重的是数据重复,我采用的解决办法是:先查询待插入的数据是否已经存在,university 表的主码是(name, stu, stu_wl, pc, year),因为现实约束一个院校只能在一个年份在一个类别一个批次只能有一个录取平均分,如果不存在,才执行最后的插入,并 commit 提交事务。

后台搭建

在拿到 30w 条数据后,我打算后台采用 Flask+PgSQL 的模式实现,甚至当时已经在某公司的云服务器部署好了,但就在小程序端在开发者工具联调通过之后,小程序上线遇到到一个大麻烦,因为小程序要求线上运行不能通过 ip 地址访问后台,必须通过备案的域名访问,域名购买一个倒不麻烦,只是域名备案比较耗时间,需要一周多时间,而当时距离高考也就不到 5 天,在手足无措之时,无意间看到小程序·云开发,于是果断尝试!

云开发为开发者提供完整的原生云端支持和微信服务支持,弱化后端和运维概念,无需搭建服务器,使用平台提供的 API 进行核心业务开发,即可实现快速上线和迭代,同时这一能力,同开发者已经使用的云服务相互兼容,并不互斥。

也就是说,只要把数据导入小程序自带的后台,就能通过小程序平台的 API 访问到这些数据,以前了解过一些第三方云,没想到小程序已经集成了这些第三方云所具有的功能,这波要点个赞。

接下来的后台的工作就主要是导入数据。查询小程序后台可知,后台支持导入 json 或者 csv 格式的数据。于是我就写了个脚本,把数据从本地数据库导出到 json 文件中:

``` import psycopg2 import json

conn = psycopg2.connect(database="gaokao", user="postgres", password="*", host="127.0.0.1", port="5432") cur = conn.cursor()

cur.execute('select stu_loc,year,stu_wl,pc,control from province') result = [] query_res = cur.fetchall() for i in query_res: item = {} item['stu_loc'] = i[0] item['year'] = i[1] item['wl'] = i[2] item['pc'] = i[3] item['score'] = i[4] result.append(item)

with open("province.json", 'w', encoding="utf-8") as f: f.write(json.dumps(result, indent=2, ensure_ascii=False)) ```

这里还有一点要说明一下,小程序后台要求的 json 格式和我们平常意义上的 json 格式还有点区别,首先,json 的所有内容不能被 [ 和 ] 包括起来,而且每个被 {} 所包括的数据项之间不能有逗号。

img

选用 notepad++ 打开原来的 json 文件,使用替换功能就能解决,把‘[’和‘]’替换成空格,把‘ },’替换成‘}’即可。 修改之后,在小程序后台通过导入该 json 文件,后台搭建就基本完成了。

小程序端编写

关于小程序端的编写,这里着重介绍页面编写方面的经验,即如何实现下图中的界面。

img

最开始想实现这样的效果,完全没有思路,最后在从自定义模态弹窗得到了思路:

一开始,“地区院校”这个下拉框对应的布局是隐藏的,在 wxml 文件中通过 hidden=true 控制,一点击“地区/院校”下拉框,就把 hidden 置为 false,如果开始有其他下拉框对应的布局的 hidden 属性是 false 的话,同时要把这些布局的 hidden 属性置为 true 来隐藏其他布局。

当然,这里的 true or false 需要在 js 里通过 setData() 动态修改,把修改后的数据从数据层渲染到视图层。

同时模仿下例代码完成业务逻辑:

// 查询可能较慢,最好加入加载动画 wx.showLoading({ title: "加载中", }); const countResult = await db .collection("province") .where({ stu_loc: name, pc: pici, }) .count(); const total = countResult.total; //计算需分几次取 const batchTimes = Math.ceil(total / MAX_LIMIT); // 承载所有读操作的 promise 的数组 //初次循环获取云端数据库的分次数的promise数组 for (let i = 0; i < batchTimes; i++) { const promise = await db .collection("province") .where({ stu_loc: name, pc: pici, }) .skip(i * MAX_LIMIT) .limit(MAX_LIMIT) .get(); //二次循环根据获取的promise数组的数据长度获取全部数据push到newResult数组中 for (let j = 0; j < promise.data.length; j++) { var item = {}; item.code = i * MAX_LIMIT + j; item.name = promise.data[j].stu_loc; item.year = promise.data[j].year; item.wl = promise.data[j].wl; item.pc = promise.data[j].pc; item.score = promise.data[j].score; console.table(promise.data); newResult.push(item); } } if (newResult.length != 0) { that.setData({ hasdataFlag: true, resultData: newResult, }); } else { that.setData({ hasdataFlag: false, resultData: newResult, }); } // 隐藏加载动画 wx.hideLoading();

源码链接:https://github.com/inspurer/GaokaoScroeQuery

云开发(Tencent CloudBase,TCB)是腾讯云提供的云原生一体化开发环境和工具平台,为开发者提供高可用、自动弹性扩缩的后端云服务,包含计算、存储、托管等serverless化能力,可用于云端一体化开发多种端应用(小程序,公众号,Web 应用,Flutter 客户端等),帮助开发者统一构建和管理后端服务和云资源,避免了应用开发过程中繁琐的服务器搭建及运维,开发者可以专注于业务逻辑的实现,开发门槛更低,效率更高。

产品文档:https://cloud.tencent.com/product/tcb

技术文档:https://cloudbase.net

技术交流加Q群:601134960

最新资讯关注微信公众号【腾讯云云开发】

img