我正在进行迁移过程,必须将所有信息从一个数据库复制到另一个数据库。当它开始运行时似乎都很好,问题是当进程到达一个复杂的表时。
这个表很特殊,因为有些实体依赖它。我将用一个例子更好地解释它:
当进程插入1159 entityX及其依赖项时,会出现内存不足异常,更不用说了。
在每个entityX之后,我们使用一个函数调用CleanMemory,它使用GarbageCollector来清理内存。
解决这个问题的任何方法?
public static void LoadExample(origin agmCtx, destinity.AgroPelayoEntities agpCtx)
{//GET ALL THE INFO THAT WE NEED
List<EntityX> listOriginX = agmCtx.EntityX.AsNoTracking().ToList();
foreach (EntityX ent in list)
{
///LISTS INSERTS//////
List<destinityEntityX> listInsert = new List<destinity.EntityX>();
List<destinity.EntityY> listInsertY = new List<destinity.EntityY>();
List<destinity.EntityZ> listInsertZ = new List<destinity.EntityZ>();
List<destinity.EntityV> listInsertV = new List<destinity.EntityV>();
List<destinity.EntityW> listInsertW = new List<destinity.EntityW>();
///LISTS UPDATES//////
List<destinity.EntityX> listUpdate = new List<destinity.EntityX>();
Boolean exists = listOriginX.Any(e => (e.n_id == ent.n_id));
if (!exists)
{
//HERE GOES CODE TO CREATE NEW ENTITY AND HIS CHILD(EntityY,List<listInsertZ>, List<EntityV>....)
listInsertY.Add(newEntityW);
listInsertY.Add(newEntityV);
listInsertY.Add(newEntityZ);
listInsertY.Add(newEntityY);
listInsert.Add(newEntityX);
}
else
{
//MODIFY TO HAVE NEW INFO
listUpdateV.Add(oldEntityV_Modified);
}
int batchSizeX = ClassCommonFuncts.GetNumBatchCount(listInsert.Count());
int batchSizeY= ClassCommonFuncts.GetNumBatchCount(listInsertY.Count());
int batchSizeZ = ClassCommonFuncts.GetNumBatchCount(listInsertZ.Count());
int batchSizeV = ClassCommonFuncts.GetNumBatchCount(listInsertV.Count());
int batchSizeW = ClassCommonFuncts.GetNumBatchCount(listInsertW.Count());
int batchSizeUpdateX = ClassCommonFuncts.GetNumBatchCount(listUpdateV.Count());
agpCtx.BulkInsert<destinity.EntityW>(listInsertW, bulk => bulk.BatchSize = batchSizeW);
agpCtx.BulkInsert<destinity.EntityV>(listInsertV, bulk => bulk.BatchSize = batchSizeV);
agpCtx.BulkInsert<destinity.EntityZ>(listInsertZ, bulk => bulk.BatchSize = batchSizeZ);
agpCtx.BulkInsert<destinity.EntityY>(listInsertY, bulk => bulk.BatchSize = batchSizeY);
agpCtx.BulkInsert<destinity.EntityX>(listInsert, bulk => bulk.BatchSize = batchSizeX);
agpCtx.BulkUpdate<destinity.EntityX>(listUpdate, bulk => bulk.BatchSize = batchSizeUpdateX);
ClassCommonFuncts.CleanMemory();
}
}
功能CleanMemory
[DllImport("kernel32.dll", EntryPoint = "SetProcessWorkingSetSize", ExactSpelling = true, CharSet = CharSet.Ansi, SetLastError = true)]
private static extern int SetProcessWorkingSetSize(IntPtr process, int minimumWorkingSetSize, int maximumWorkingSetSize);
public static void CleanMemory()
{
GC.Collect();
GC.WaitForPendingFinalizers();
SetProcessWorkingSetSize(System.Diagnostics.Process.GetCurrentProcess().Handle, -1, -1);
}
函数GetNumBatchCount
public static int GetNumBatchCount(decimal records)
{
if (records > 1000000)
{
return (int)Math.Ceiling((double)records / 1000);
}
else if (records > 500000)
{
return (int)Math.Ceiling((double)records / 100);
}
else if (records > 100000)
{
return (int)Math.Ceiling((double)records / 50);
}
else if (records > 5000)
{
return (int)Math.Ceiling((double)records / 10);
}
else
{
return (int)Math.Ceiling((double)records / 1);
}
}
不是长期解决方案。首先尝试设置列表的容量。
将GC调用到你的位置也是一种不好的做法。
还有一件事。在每次迭代中创建新列表都是不好的做法,并且在代码中会出现内存泄漏。
最终的解决方案是“简单”。问题是实体与另一个实体(1到n)有关系,然后当app运行超过1000个实体崩溃时抛出OutOfMemory Exception。
我修复它,将它们分成小组,例如按年龄和男性分组。 (在我的情况下,我做了另一组)