我遇到了一些Oracle SQL Loader挑战,并寻求一种高效而简单的解决方案。我要加载的源文件是管道|
分隔,其中值由Double Quotes "
括起来。问题似乎是某些值包含内部双引号。
例如:..."|"a":"b"|"...
这会导致我的记录被拒绝,理由是:
no terminator found after TERMINATED and ENCLOSED field
网上有各种解决方案,但似乎不合适:
[1]我试图在引用引号时替换所有内部双引号,但似乎在控制文件上的太多字段上应用此函数时(我有~2000 +字段并使用FILLER仅加载子集)装载机再次抱怨:
SQL*Loader-350: Syntax error at line 7.
Expecting "," or ")", found ",".
field1 char(36) "replace(:field1,'"','""')",
(我不知道为什么,但是当在一个狭窄的列子集上应用此解决方案时,它似乎确实有效)
事情是,所有字段都可能包含内部双引号。
[2]我可以在省略全局optionally enclosed by '"'
时加载所有数据,但随后所有封闭引号都成为目标表中数据的一部分。
[3]我可以省略全局optionally enclosed by '"'
语句并将其仅放在选定的字段上,同时尝试对剩余部分进行"replace(:field1,'"','""')"
语句,但这很难实现,因为我无法知道哪些可疑字段包含内部双引号。
这是我的问题:
如果您在封闭的字段中没有管道,则可以从控制文件中执行此操作。如果你可以在一个字段中同时拥有管道和双引号,那么我认为你别无选择,只能对这些文件进行预处理。
你的解决方案[1],取代双引号with an SQL operator,发生得太晚,无法发挥作用;在执行SQL步骤之前,SQL * Loader已经解释了分隔符和附件。您的解决方案[2],忽略外壳,将与[1]结合使用 - 直到其中一个字段确实包含管道字符。并且解决方案[3]具有与全局使用[1]和/或[2]相同的问题。
specifying delimiters的文档提到:
有时,作为分隔符的标点符号也必须包含在数据中。为了实现这一点,两个相邻的分隔符字符被解释为字符的单个匹配项,并且该字符包含在数据中。
换句话说,如果您在字段内重复双引号,那么它们将被转义并显示在表数据中。由于无法控制数据生成,因此您可以预处理文件,以使用转义双引号替换所有双引号。除非您不想替换所有这些 - 实际上真正的外壳不应该被转义。
您可以使用正则表达式来定位相关字符将跳过其他人。不是我强大的领域,但我认为你可以用lookahead and lookbehind assertions做到这一点。
如果你有一个名为orig.txt
的文件,其中包含:
"1"|A|"B"|"C|D"
"2"|A|"B"|"C"D"
3|A|""B""|"C|D"
4|A|"B"|"C"D|E"F"G|H""
你可以这样做:
perl -pe 's/(?<!^)(?<!\|)"(?!\|)(?!$)/""/g' orig.txt > new.txt
这会查找一个双引号,它不在行开始锚点或管道符号之前;并且后面没有管道字符或行尾锚点;并且只替换那些带有转义(加倍)双引号的人。这将使new.txt
包含:
"1"|A|"B"|"C|D"
"2"|A|"B"|"C""D"
3|A|"""B"""|"C|D"
4|A|"B"|"C""D|E""F""G|H"""
字段开头和结尾的双引号不会被修改,但中间的双引号现在被转义。如果您随后使用带有双引号机箱的控制文件加载了该文件:
load data
truncate
into table t42
fields terminated by '|' optionally enclosed by '"'
(
col1,
col2,
col3,
col4
)
然后你最终得到:
select * from t42 order by col1;
COL1 COL2 COL3 COL4
---------- ---------- ---------- --------------------
1 A B C|D
2 A B C"D
3 A "B" C|D
3 A B C"D|E"F"G|H"
希望与原始数据匹配。可能存在不起作用的边缘情况(如双引号后跟字段中的管道)但是对于尝试解释其他人的数据可以做什么是有限制的...可能还有(很多)当然,更好的正则表达模式。
如果数据文件是(或可以)在Oracle目录中并且您具有正确的权限,您还可以考虑使用an external table而不是SQL * Loader。您仍然需要修改该文件,但您可以使用preprocessor
指令自动执行该操作,而不是在调用SQL * Loader之前需要显式执行此操作。