2017-07-11 36 views
3

私は竜巻Webアプリケーションでメモリリークを発見しましたが、私はそれを修正する方法がわかりません。いくつかのメモリプロファイリングの後、私はmemcachedクライアントがクライアント接続を閉じるときにdictを漏らしていることがわかりました。私はauto-discovery mechanism w/ AWS ElastiCacheの一部としてmemcachedクライアントをたくさんオープン/クローズします(1分に1回)。ここでPython 3 asyncioクライアント接続を正しく閉じる方法

は、リークを実証するpymplerを使用して、最小限の再生です:

from pympler import muppy, summary 
import asyncio 
import aiomcache 

loop = asyncio.get_event_loop() 

async def hello_aiomcache(): 
    mc = aiomcache.Client("127.0.0.1", 11211, loop=loop) 
    await mc.set(b"some_key", b"Some value") 
    value = await mc.get(b"some_key") 
    print(value) 
    values = await mc.multi_get(b"some_key", b"other_key") 
    print(values) 
    await mc.delete(b"another_key") 
    mc.close() 

# establish a baseline (watch the <class 'dict line) 
summary.print_(summary.summarize(muppy.get_objects())) 

for i in range(50): 
    loop.run_until_complete(hello_aiomcache()) 

# <class 'dict grows 
summary.print_(summary.summarize(muppy.get_objects())) 

ds = [ao for ao in muppy.get_objects() if isinstance(ao, dict)] 

# leaked dict looks like {'_loop': <_UnixSelectorEventLoop running=False closed=False debug=False>, '_paused': False, '_drain_waiter': None, '_connection_lost': False, '_stream_reader': <StreamReader t=<_SelectorSocketTransport fd=34 read=polling write=<idle, bufsize=0>>>, '_stream_writer': None, '_client_connected_cb': None, '_over_ssl': False} 
ds[2364] 

loop.close()が呼び出されるまで、これらのdictのは永遠にたむろうように見えます。私はこれで混乱しています。私はtornado.ioloop.IOLoop.IOLoop.current().asyncio_loopで竜巻から借りたループを閉鎖したくないです。ループを閉じることなく、これらの接続を適切に閉じる/クリーンアップする他の方法はありますか?

答えて

1

awaitmc.close()が原因で問題が発生しました。

コルーチンは実際には何らかの明示的なスケジューリングなしでは実行されないことに少し驚きました。私はそれが将来、ある時点で最終的に呼び出されると考えていました。しかし、coroutine docs明示的状態:

コルーチンを呼び出すには、そのコードの実行を開始しません - あなたはその 実行をスケジュールするまでの呼び出しによって返さコルーチン オブジェクトは、何もしません。実行を開始するには、2つの基本的な方法があります(! 他のコルーチンがすでに実行されているとすると)別のコルーチンからawait coroutine またはyield from coroutineを呼び出す、または ensure_future()機能やAbstractEventLoop.create_task() メソッドを使用してその実行をスケジュールします。

+2

[asyncioのデバッグモード](https://docs.python.org/3/library/asyncio-dev.html#debug-mode-of-asyncio)を使用すると、「コルーチンは定義されていますが決して」ログされません。 "'これは、このタイプのエラーを指摘するのに役立ちます。 –

関連する問題