一、前言
很多项目如果需要存储很多日志记录比如运行日志,时间长了记录数量非常多,数据库体积不断增大,对应数据库表的增删改查的效率不断降低,为了消除这几个影响,需要有一套机制,不断将早期的数据清理,清理的规则比如可以指定表名、字段名、时间范围等。
日志记录的清理一方面是为了保证查询效率,毕竟数据量大了明显影响查询速度,一方面也是为了节约磁盘存储空间,毕竟存储空间有限,尤其是嵌入式板子,容量一般不会很大,记录无限制的存储下去会不断增加磁盘空间的占用。
除了数据库记录的清理以外,还有个场景是文件的清理,比如视频监控系统存储了很多视频文件,为了保证磁盘空间的大小,需要不断清理不需要的早期的视频文件,以便腾出空间存储新的文件,相当于覆盖写入,这样就最大化的把磁盘空间利用起来,不会因为磁盘空间不够而导致的程序不能正常运行。
- 可设置要清理的对应数据库连接名称和表名。
- 可设置条件字段。
- 可设置排序字段。
- 可设置最大保留的记录数。
- 可设置执行自动清理的间隔。
- 后期支持多个数据库和多个表。
- 建议条件字段用数字类型的主键,速度极快。
- 增加统计用字段名称设置。
- 增加自动清理文件夹,超过大小自动删除文件夹中早期文件。
关于Qt数据库相关开发的一些经验总结:
二、功能特点
- 同时支持多种数据库比如odbc、sqlite、mysql、postgresql、sqlserver、oracle、人大金仓等。
- 一个数据库类即可管理本地数据库通信,也支持远程数据库通信等。
- 数据库线程支持执行各种sql语句,包括单条和批量。
- 组件中的所有类打印信息、错误信息、执行结果都信号发出去。
- 集成数据库通用翻页类(负责具体处理逻辑),搭配分页导航控件(负责外观),形成超级牛逼的翻页控件。
- 集成数据库自动清理类,设定最大记录数后台自动清理早期数据。
- 集成自定义委托类,支持复选框、文本框、下拉框、日期框、微调框、进度条等。
- 同时支持Qt4-Qt6,亲测Qt4.6到Qt6.3任意版本,任意系统和编译器。
- 本组件无故障 360天7乘24小时 运行在至少上万个现场,商业级别品质保证。
- 每个类都对应完整详细的使用示例,注释详细,非常适合阅读学习。
- 可以作为独立的程序运行,比如自动清理早期数据,同步数据到云端。
- 全部线程处理,不卡界面,自动重连数据库。
- 普通测试情况,sqlite数据库,数据库发生器每秒钟插入1000条记录约0.003秒钟,同时自动清理数据类每秒钟删除1000条记录约0.13秒,不同线程互不干扰。
四、效果图
五、相关代码
void frmDbClean::on_btnOpen_clicked()
{
if (ui->btnOpen->text() == "打开数据库") {
DbInfo dbInfo;
dbInfo.connName = this->objectName();
dbInfo.dbName = AppConfig::DbName3;
dbInfo.hostName = AppConfig::HostName3;
dbInfo.hostPort = AppConfig::HostPort3;
dbInfo.userName = AppConfig::UserName3;
dbInfo.userPwd = AppConfig::UserPwd3;
QString dbType = AppConfig::DbType3.toUpper();
if (dbType == "SQLITE") {
dbInfo.dbName = DbHelper::getDbDefaultFile();
}
dbClean->setConnInfo(DbHelper::getDbType(dbType), dbInfo);
if (dbClean->openDb()) {
//dbClean->start();
ui->btnOpen->setText("关闭数据库");
} else {
QString error = dbClean->getDatabase().lastError().text();
QUIHelper::showMessageBoxError("打开数据库失败!\n" + error, 3);
}
} else {
dbClean->stop();
dbClean->closeDb();
ui->btnOpen->setText("打开数据库");
ui->btnStart->setText("启动服务");
on_btnClear_clicked();
}
QTimer::singleShot(100, this, SLOT(getTables()));
QTimer::singleShot(1000, this, SLOT(on_btnStart_clicked()));
}
void frmDbClean::on_btnCopy_clicked()
{
//将数据库设置参数一键粘贴过来
ui->cboxDbType->setCurrentIndex(ui->cboxDbType->findText(AppConfig::LocalDbType));
ui->txtDbName->setText(AppConfig::LocalDbName);
ui->txtHostName->setText(AppConfig::LocalHostName);
ui->txtHostPort->setText(QString::number(AppConfig::LocalHostPort));
ui->txtUserName->setText(AppConfig::LocalUserName);
ui->txtUserPwd->setText(AppConfig::LocalUserPwd);
}
void frmDbClean::getTables()
{
if (!dbClean->getOk()) {
return;
}
//取出数据库对应的表集合
QStringList tables = dbClean->getDatabase().tables();
ui->cboxTables->clear();
ui->cboxTables->addItems(tables);
if (tables.contains("LogInfo")) {
ui->cboxTables->setCurrentIndex(ui->cboxTables->findText("LogInfo"));
}
}
void frmDbClean::on_btnDo_clicked()
{
if (!dbClean->getOk()) {
return;
}
QString tableName = ui->cboxTables->currentText();
QString countName = ui->txtCountName->text();
QString orderSql = ui->txtOrderSql->text();
dbClean->setTableName(tableName);
dbClean->setCountName(countName);
dbClean->setWhereColumnName(countName);
dbClean->setOrderSql(orderSql);
//最大保留记录数量
dbClean->setMaxCount(AppConfig::Count3 * 10000);
//清理间隔
dbClean->setCleanInterval(AppConfig::Interval3);
dbClean->cleanData();
}