如何修复SQLite数据库
一、前言
SQLite性能好,对SQL支持全面,是久经考验的轻量的关系型数据库。
移动开发者对SQLite应该都不陌生了,只是不同的 APP 对数据库的依赖程度不同(有的甚至不需要数据库-_-)。
SQLite虽然是可靠性较高的数据库,但是在复杂的使用场景之下,也会不时地出点问题。
比如说有时候索引损坏,select count(*) from t_XXX 查询出的结果和select * from t_XXX取出得记录数不一样;
有时候甚至存储的记录违反唯一性约束,非空约束等等。
一旦出现这些问题,可能会引起数据不正确,或者功能异常。
为了尽量降低数据库不完整所引发的问题,我们需要有一套修复机制。
二、数据修复
一个简单的策略就是:检测-读取-写入-替换。
具体地说,就是先检测数据的完整性,当检测到数据库文件不完整时做修复。
SQLite提供了检测的API,但是没有提供直接修复的API,或许是因为错误的原因有很多,做纠错太困难了吧。
通常大家的做法就是转储数据到一个好的数据库文件中,再替换回去,就好比整理衣物,要先把衣服叠整齐,再放回衣柜。
有一些文章在写转储数据时, 会写dump sql, 然后执行sql,这也是转储的方式之一,但是有更高效的方式。
2.1 检测
SQLite提供了检测数据库完整性的API:
PRAGMA integrity_check
正常情况下执行此语句返回'ok', 而在当数据库不完整时(比如上面描述的一些情景),返回其他结果。
2.2 读取数据表
SQLite有一张内置表, sqlite_master, 此表中存储着数据库中所有表的相关信息,比如表的名称、索引、以及建表SQL等。
我们可以从中读取所有我们创建的表的名称:
private static List<String> getTables(SQLiteDatabase desDb) {
String sql = "SELECT name FROM sqlite_master " +
"WHERE type='table' AND name!='android_metadata'";
Cursor c = desDb.rawQuery(sql, null);
try {
List<String> tables = new ArrayList<>(c.getCount());
while (c.moveToNext()) {
tables.add(c.getString(0));
}
return tables;
} finally {
closeCursor(c);
}
}
2.3 读取数据
要读取数据,先要考虑读取出来之后,用什么方式存储。
先定一个数据结构:
public class TableData {
public int row;
public int column;
public Object[] data;
}
然后,读取一张表的所有数据:
private static TableData getData(SQLiteDatabase srcDb, String sql) {
Cursor c = srcDb.rawQuery(sql, null);
try {
int rawCount = c.getCount();
if (rawCount <= 0) {
return null;
}
int columnCount = c.getColumnCount();
TableData tableData = new TableData();
tableData.row = rawCount;
tableData.column = columnCount;
tableData.data = new Object[rawCount * columnCount];
int row = 0;
if (c instanceof AbstractWindowedCursor) {
final AbstractWindowedCursor windowedCursor = (AbstractWindowedCursor) c;
while (windowedCursor.moveToNext()) {
for (int i = 0; i < columnCount; i++) {
int index = row * columnCount + i;
if (windowedCursor.isBlob(i)) {
tableData.data[index] = windowedCursor.getBlob(i);
} else if (windowedCursor.isFloat(i)) {
tableData.data[index] = windowedCursor.getDouble(i);
} else if (windowedCursor.isLong(i)) {
tableData.data[index] = windowedCursor.getLong(i);
} else if (windowedCursor.isNull(i)) {
tableData.data[index] = null;
} else if (windowedCursor.isString(i)) {
tableData.data[index] = windowedCursor.getString(i);
} else {
tableData.data[index] = windowedCursor.getString(i);
}
}
row++;
}
} else {
while (c.moveToNext()) {
for (int i = 0; i < columnCount; i++) {
int index = row * columnCount + i;
tableData.data[index] = c.getString(i);
}
row++;
}
}
return tableData;
} finally {
closeCursor(c);
}
}
这里有一个疑问就是,为什么不读一行写一行?
也是可以的,但是那样的话会有两个坏处:
1、方法只能不单一,可读性低;
2、内存抖动。众所周知,连续读写的IO性能比随机读写要好。
但是读取全表再批量写入,也有一个弊端:
如果一张表数据很大,可能会OOM。
当然,如果数据量比较大,我们可以采用分页的方式。
2.4 写入数据
private static void insertToDb(SQLiteDatabase desDb,
String sql,
Object[] values,
int rows,
int columns) {
if (values == null || columns <= 0 || rows <= 0 || values.length < (rows * columns)) {
return;
}
SQLiteStatement statement = desDb.compileStatement(sql);
try {
for (int i = 0; i < rows; i++) {
bindValues(statement, values, i, columns);
try {
statement.executeInsert();
} catch (SQLiteConstraintException e) {
LogUtil.e(TAG, e);
}
statement.clearBindings();
}
} finally {
IOUtil.closeQuietly(statement);
}
}
public static void bindValues(SQLiteStatement statement,
Object[] values,
int row,
int columns) {
for (int j = 0; j < columns; j++) {
Object value = values[row * columns + j];
int index = j + 1;
if (value == null) {
statement.bindNull(index);
} else if (value instanceof String) {
statement.bindString(index, (String) value);
} else if (value instanceof Number) {
if (value instanceof Double
|| value instanceof Float
|| value instanceof BigDecimal) {
statement.bindDouble(index, ((Number) value).doubleValue());
} else {
statement.bindLong(index, ((Number) value).longValue());
}
} else if (value instanceof byte[]) {
statement.bindBlob(index, (byte[]) value);
} else {
statement.bindString(index, value.toString());
}
}
}
其实很多其他的数据库引擎也提供了参数绑定的API。
这样的方式的好处就是,只用编译一次SQL。
而用SDK的insert方法,则每插入一条记录都需要编译一遍SQL。
需要注意的事,在转储数据时要捕获SQLiteConstraintException,因为在当数据文件不完整时,有的记录可能已经不满足约束(唯一约束,非空约束等)了。
2.5 复制数据
接下来,只需组装前面的方法,逐张表进行复制。
private static void copyTable(SQLiteDatabase srcDb, SQLiteDatabase desDb,
String table, StringBuilder builder) {
TableData tableData = getData(srcDb, "SELECT * FROM " + table);
if (tableData != null) {
builder.setLength(0);
builder.append("INSERT INTO ").append(table).append(" VALUES(");
for (int i = 0; i < tableData.column; i++) {
builder.append("?,");
}
builder.setCharAt(builder.length() - 1, ')');
insertToDb(desDb, builder.toString(), tableData.data, tableData.row, tableData.column);
}
}
private static void copyDataToNewDb(SQLiteDatabase srcDb, SQLiteDatabase desDb) {
srcDb.beginTransaction();
try {
List<String> tables = getTables(desDb);
StringBuilder builder = new StringBuilder(128);
for (String table : tables) {
desDb.execSQL("DELETE FROM " + table);
copyTable(srcDb, desDb, table, builder);
}
} finally {
srcDb.endTransaction();
}
}
复制完成后,把新数据库文件替换旧数据库文件即可。
三、预防措施
以上是数据库损坏后的对应策略,不一定有效,比如说数据库是彻底损坏(数据无法读取)时。
我们可以从另外两个方面做预防:
- 1、防止数据库损坏
比如检查磁盘剩余空间,当剩余空间小于一定大小时提醒用户清理空间;
还有就是注意切勿多进程访问数据库,集成推送,定位等服务,这些服务通常会有自己的进程,
这时候需要小心Application的onCreate方法,因为所有进程都会回调该方法。 - 2、做备份
定时做备份,比如每天或者每两天做一次备份,在数据库彻底损坏时至少还可以恢复绝大部分数据。
四、后记
我们的APP重度依赖数据库,数据量不算特别大,但是数据表多,操作路径多,数据库损坏什么的时有发生,对业务影响颇深。
用户数据有问题,有的会反馈,有的可能就卸载APP了。
最初没意识到SQLite完整性的问题,碰到一些奇怪的数据现象,钻进茫茫的业务代码中去查原因,有时候能找到一些可能的原因,但是常常是铩羽而归,最终也只是用一些临时方案使得用户可以恢复使用,指标而不治本。
后来渐渐意识到解决数据库损坏的问题,出了一系列措施之后,此类问题迎刃而解。
五、下载
已上传Demo到github, 地址:https://github.com/No89757/DBTest