如何在 Python 中模拟可变字符串（如 Java 中的 StringBuffer 或 C# 中的 StringBuilder）？

问题描述 投票：0回答：10

由于 Python 的字符串是不可变的，因此在循环中重复编辑它们是低效的。如何使用可变数据结构来实现字符串操作，从而避免创建大量临时字符串？

python string mutable
10个回答
117
投票

蟒蛇3

来自docs：

连接不可变序列总是会产生一个新对象。这意味着通过重复串联构建序列将在总序列长度中产生二次运行时间成本。要获得线性运行时成本，您必须切换到以下替代方案之一： 如果连接 str 对象，您可以构建一个列表并在末尾使用 str.join() 或写入 io.StringIO 实例并在完成时检索其值

比较几个选项的运行时间的实验：

import sys
import timeit
from io import StringIO
from array import array


def test_concat():
    out_str = ''
    for _ in range(loop_count):
        out_str += 'abc'
    return out_str


def test_join_list_loop():
    str_list = []
    for _ in range(loop_count):
        str_list.append('abc')
    return ''.join(str_list)


def test_array():
    char_array = array('b')
    for _ in range(loop_count):
        char_array.frombytes(b'abc')
    return str(char_array.tostring())


def test_string_io():
    file_str = StringIO()
    for _ in range(loop_count):
        file_str.write('abc')
    return file_str.getvalue()


def test_join_list_compr():
    return ''.join(['abc' for _ in range(loop_count)])


def test_join_gen_compr():
    return ''.join('abc' for _ in range(loop_count))


loop_count = 80000

print(sys.version)

res = {}

for k, v in dict(globals()).items():
    if k.startswith('test_'):
        res[k] = timeit.timeit(v, number=10)

for k, v in sorted(res.items(), key=lambda x: x[1]):
    print('{:.5f} {}'.format(v, k))

结果

3.7.5 (default, Nov  1 2019, 02:16:32) 
[Clang 11.0.0 (clang-1100.0.33.8)]
0.03738 test_join_list_compr
0.05681 test_join_gen_compr
0.09425 test_string_io
0.09636 test_join_list_loop
0.11976 test_concat
0.19267 test_array

蟒蛇2

Efficient String Concatenation in Python 是一篇相当陈旧的文章，它的主要说法是朴素的串联比连接慢得多，这不再有效，因为此部分已在 CPython 中进行了优化。来自docs：

CPython 实现细节：如果 s 和 t 都是字符串，某些 Python 实现（例如 CPython）通常可以对形式为 s = s + t 或 s += t 的赋值执行就地优化。适用时，此优化使二次运行时间的可能性大大降低。这种优化既依赖于版本又依赖于实现。对于性能敏感的代码，最好使用 str.join() 方法，该方法可确保跨版本和实现的线性串联性能一致。

我稍微调整了他们的代码，在我的机器上得到了以下结果：

from cStringIO import StringIO
from UserString import MutableString
from array import array

import sys, timeit

def method1():
    out_str = ''
    for num in xrange(loop_count):
        out_str += `num`
    return out_str

def method2():
    out_str = MutableString()
    for num in xrange(loop_count):
        out_str += `num`
    return out_str

def method3():
    char_array = array('c')
    for num in xrange(loop_count):
        char_array.fromstring(`num`)
    return char_array.tostring()

def method4():
    str_list = []
    for num in xrange(loop_count):
        str_list.append(`num`)
    out_str = ''.join(str_list)
    return out_str

def method5():
    file_str = StringIO()
    for num in xrange(loop_count):
        file_str.write(`num`)
    out_str = file_str.getvalue()
    return out_str

def method6():
    out_str = ''.join([`num` for num in xrange(loop_count)])
    return out_str

def method7():
    out_str = ''.join(`num` for num in xrange(loop_count))
    return out_str


loop_count = 80000

print sys.version

print 'method1=', timeit.timeit(method1, number=10)
print 'method2=', timeit.timeit(method2, number=10)
print 'method3=', timeit.timeit(method3, number=10)
print 'method4=', timeit.timeit(method4, number=10)
print 'method5=', timeit.timeit(method5, number=10)
print 'method6=', timeit.timeit(method6, number=10)
print 'method7=', timeit.timeit(method7, number=10)

结果：

2.7.1 (r271:86832, Jul 31 2011, 19:30:53) 
[GCC 4.2.1 (Based on Apple Inc. build 5658) (LLVM build 2335.15.00)]
method1= 0.171155929565
method2= 16.7158739567
method3= 0.420584917068
method4= 0.231794118881
method5= 0.323612928391
method6= 0.120429992676
method7= 0.145267963409

结论：

  • join
    仍然胜过 concat，但略胜一筹
  • 列表理解比循环更快（构建列表时）
  • 加入生成器比加入列表慢
  • 其他方法没有用（除非你在做一些特别的事情）
15
投票

取决于你想做什么。如果你想要一个可变序列，内置的 

list
类型是你的朋友，从 str 到 list 再返回就像这样简单：

 mystring = "abcdef"
 mylist = list(mystring)
 mystring = "".join(mylist)

如果您想使用 for 循环构建一个大字符串，pythonic 方法通常是构建一个字符串列表，然后使用适当的分隔符（换行符或其他）将它们连接在一起。

此外，您还可以使用一些文本模板系统、解析器或任何最适合该工作的专用工具。

13
投票

也许使用 bytearray:

In [1]: s = bytearray('Hello World')

In [2]: s[:5] = 'Bye'

In [3]: s
Out[3]: bytearray(b'Bye World')

In [4]: str(s)
Out[4]: 'Bye World'

使用 bytearray 的吸引力在于它的内存效率和方便的语法。它也可以比使用临时列表更快：

In [36]: %timeit s = list('Hello World'*1000); s[5500:6000] = 'Bye'; s = ''.join(s)
1000 loops, best of 3: 256 µs per loop

In [37]: %timeit s = bytearray('Hello World'*1000); s[5500:6000] = 'Bye'; str(s)
100000 loops, best of 3: 2.39 µs per loop

请注意，速度的大部分差异归因于容器的创建：

In [32]: %timeit s = list('Hello World'*1000)
10000 loops, best of 3: 115 µs per loop

In [33]: %timeit s = bytearray('Hello World'*1000)
1000000 loops, best of 3: 1.13 µs per loop
9
投票

之前提供的答案几乎总是最好的。然而，有时字符串是在许多方法调用和/或循环中建立起来的，因此建立一个行列表然后将它们连接起来并不一定很自然。由于无法保证您使用的是 CPython，或者 CPython 的优化将适用，因此另一种方法是只使用 

print
!

这里有一个辅助类的例子，虽然辅助类很简单而且可能是不必要的，但它可以用来说明方法（Python 3）：

import io

class StringBuilder(object):

    def __init__(self):
        self._stringio = io.StringIO()
    
    def __str__(self):
        return self._stringio.getvalue()
    
    def append(self, *objects, sep=' ', end=''):
        print(*objects, sep=sep, end=end, file=self._stringio)

sb = StringBuilder()
sb.append('a')
sb.append('b', end='\n')
sb.append('c', 'd', sep=',', end='\n')
print(sb)  # 'ab\nc,d\n'
4
投票

我已经在 Roee Gavirel 的代码中添加了 2 个额外的测试，这些测试最终表明将列表连接到字符串并不比 s += "something" 快到 Python 3.6。后来的版本有不同的结果。

结果：

Python 2.7.15rc1    

Iterations: 100000
format    done in 0.317540168762s
%s        done in 0.151262044907s
list+join done in 0.0055148601532s
str cat   done in 0.00391721725464s
    
Python 3.6.7

Iterations: 100000
format    done in 0.35594654083251953s
%s        done in 0.2868080139160156s
list+join done in 0.005924701690673828s
str cat   done in 0.0054128170013427734s
f str     done in 0.12870001792907715s

Python 3.8.5

Iterations: 100000
format    done in 0.1859891414642334s
%s        done in 0.17499303817749023s
list+join done in 0.008001089096069336s
str cat   done in 0.014998912811279297s
f str     done in 0.1600024700164795s

代码：

from time import time


def _with_cat(i):
    _st = ''
    for i in range(0, i):
        _st += "0"
    return _st


def _with_f_str(i):
    _st = ''
    for i in range(0, i):
        _st = f"{_st}0"
    return _st


def _with_format(i):
    _st = ''
    for i in range(0, i):
        _st = "{}{}".format(_st, "0")
    return _st


def _with_s(i):
    _st = ''
    for i in range(0, i):
        _st = "%s%s" % (_st, "0")
    return _st


def _with_list(i):
    l = []
    for i in range(0, i):
        l.append("0")
    return "".join(l)


def _count_time(name, i, func):
    start = time()
    r = func(i)
    total = time() - start
    print("%s done in %ss" % (name, total))
    return r


iteration_count = 100000

print('Iterations: {}'.format(iteration_count))
r1 = _count_time("format   ", iteration_count, _with_format)
r2 = _count_time("%s       ", iteration_count, _with_s)
r3 = _count_time("list+join", iteration_count, _with_list)
r4 = _count_time("str cat  ", iteration_count, _with_cat)
r5 = _count_time("f str    ", iteration_count, _with_f_str)

if len(set([r1, r2, r3, r4, r5])) != 1:
    print("Not all results are the same!")
3
投票

此链接可能对 python 中的连接有用

http://pythonadventures.wordpress.com/2010/09/27/stringbuilder/

上面链接的例子：

def g():
    sb = []
    for i in range(30):
        sb.append("abcdefg"[i%7])

    return ''.join(sb)

print g()   

# abcdefgabcdefgabcdefgabcdefgab
2
投票

我在 python 3.6.2 上运行的测试表明“加入”仍然大赢！

from time import time


def _with_format(i):
    _st = ''
    for i in range(0, i):
        _st = "{}{}".format(_st, "0")
    return _st


def _with_s(i):
    _st = ''
    for i in range(0, i):
        _st = "%s%s" % (_st, "0")
    return _st


def _with_list(i):
    l = []
    for i in range(0, i):
        l.append("0")
    return "".join(l)


def _count_time(name, i, func):
    start = time()
    r = func(i)
    total = time() - start
    print("%s done in %ss" % (name, total))
    return r

iterationCount = 1000000

r1 = _count_time("with format", iterationCount, _with_format)
r2 = _count_time("with s", iterationCount, _with_s)
r3 = _count_time("with list and join", iterationCount, _with_list)

if r1 != r2 or r2 != r3:
    print("Not all results are the same!")

输出是：

with format done in 17.991968870162964s
with s done in 18.36879801750183s
with list and join done in 0.12142801284790039s
1
投票

Python 提供的最接近可变字符串或 StringBuffer 的东西可能是 

array
标准库模块中的 Unicode 类型数组。它在您只想编辑字符串的一小部分的情况下很有用：

modifications = [(2, 3, 'h'), (0, 6, '!')]
n_rows = multiline_string.count('\n')
strarray = array.array('u', multiline_string)
for row, column, character in modifications:
    strarray[row * (n_rows + 1) + column] = character
multiline_string = map_strarray.tounicode()
0
投票

在最上面的答案中，来自“Python 中的高效字符串连接”的链接不再链接到预期的页面（而是重定向到 tensorflow.org）。 然而，这个 2004 年的页面引用的确切代码可能代表该页面https://waymoot.org/home/python_string/.

你可能已经看到它了，因为如果你谷歌它首先出现：

         efficient python StringBuilder

我不能在评论中留下这个，因为我没有特权。

0
投票

这是我的

StringBuffer
实现：

class StringBuffer:
    def __init__(self, s:str=None):
        self._a=[] if s is None else [s]

    def a(self, v):
        self._a.append(str(v))
        return self

    def al(self, v):
        self._a.append(str(v))
        self._a.append('\n')
        return self

    def ts(self, delim=''):
        return delim.join(self._a)

    def __bool__(self): return True

用法：

sb = StringBuffer('{')
for i, (k, v) in enumerate({'k1':'v1', 'k2': 'v2'}.items()):
    if i > 0: sb.a(', ')
    sb.a('"').a(k).a('": ').a('"').a(v)
sb.a('}')
print(sb.ts('\n'))

这将输出

{"k1": "v1, "k2": "v2}
.

最新问题
© www.soinside.com 2019 - 2024. All rights reserved.