當前位置:首頁 » 硬碟大全 » python將數據寫入緩存
擴展閱讀
webinf下怎麼引入js 2023-08-31 21:54:13
堡壘機怎麼打開web 2023-08-31 21:54:11

python將數據寫入緩存

發布時間: 2022-04-19 15:29:24

① 一道Python的題目:實現一個簡易的寫緩存機制。要怎麼寫是哪方面的知識要去看什麼內容

#-*-coding:utf-8-*-

__author__='lpe234'
__date__='2015-04-30'


classMemCache(object):

def__init__(self,limit=3):
self.limit=limit
self.store=[]

defput(self,param=None):
self.store.append(param)
iflen(self.store)>=self.limit:
self._write_db(self.store[:self.limit])
self.store=self.store[self.limit:]

def_write_db(self,param=None):
print'writetodb{0}'.format(param)

if__name__=='__main__':
mem=MemCache(limit=7)
user_input=range(20)
forxinuser_input:
mem.put(x)
C:Python27python.exeD:/00/gui/tmp.py
writetodb[0,1,2,3,4,5,6]
writetodb[7,8,9,10,11,12,13]

Processfinishedwithexitcode0

② 求教python的Dataframe寫入Redis的方法

redis的應用場景是為了做緩存的,或者分布式系統共享交換數據。
Pandas的DataFrame是為了做統計方便的一種內存中使用的數據結構。
你要向Redis里存儲數據為毛不直接用redis的list不就行了。

③ python保存文件

#1.打開文件open函數
open(file,[option])
#file是要打開的文件
#option是可選擇的參數,常見有modeencoding

#2.文件的打開模式
r只讀模式,文件不存在時會報錯。
w寫入模式,文件存在會清空之前的內容,文件不存在則會新建文件。
x寫入模式,文件存在會報錯,文件不存在則會新建文件。
a追加寫入模式,不清空之前的文件,直接將寫入的內容添加到後面。
b以二進制模式讀寫文件,wb,rb,ab。
+可讀寫模式,r+,w+,x+,a+,這幾種模式還遵循了r,w,x,a的基本原則。

#3.文件的讀取
f.read(size)#讀取文件的內容,將文件的內容以字元串形式返回。
'''size是可選的數值,指定字元串長度,如果沒有指定size或者指定為負數,就會讀取並返回整個文件。當文件大小為當前機器內存兩倍時就會產生問題,反之就盡可能大的size讀取和返回數據,如果到了文件末尾,會返回空字元串。
'''

f.readline()#從文件中讀取單獨一行。
'''字元串結尾會自動加上一個換行符 ,只有當文件最後沒有以換行符結尾時,這一操作才會被忽略,這樣返回值就不會有混淆。如果返回空字元串,表示到達率文件末尾,如果是空行,就會描述為 ,一個只有換行符的字元串。
'''

f.readlines()#一次讀取所有,返回一個列表,列表的元素為文件行的內容。
'''可以通過列表索引的方式將文件的每一行的內容輸出。
可以通過for循環迭代輸出每一行的信息。
'''

#4.文件的寫入
f.write() #將要寫入的內容以字元串的形式通過write方法寫入文件中。
f.writelines()#括弧里必須是由字元串元素組成的序列。

#5.保存和關閉
f.flush()
#在讀寫模式下,當寫完的數據想要讀取出來時,要先緩存區的內容保存到文件當中。

f.close()
#關閉文件。對一個已經關閉的文件進行操作會報錯。

#6.游標位置
f.tell() #返回遊標在文件中的位置。
f.seek(offset,from)
#在文件中移動文件指針,從from(0代表起始位置,1代表當前位置,2代表文件末尾)偏移offset個位元組。

#7.查看文件信息
closed #查看文件是否已經關閉,返回布爾值。
mode #返迴文件打開模式。
name #返迴文件名。

#8.with形式打開文件,裡面的語句執行完後會自動關閉文件
withopen('文件名')asf:
f.read()

④ python 寫入excel 遇到緩沖區問題 程序要循環很多次,每次都要讀取不同的數據有多也

google搜下吧,python操作excel的模塊應該有很多的,你的文件結構還是很清晰的,寫個簡單parser應該不難。如果你經常要處理這類文本的話,推薦用心寫個parser,不要用正則。

你的文件結構差不多是這樣,2個等於號行之間是整個序列信息的匯總。
之後----號那行之間是可以扔掉的注釋,之後有個n個(optional?)section(section起始於某個有:的行,到下個:行之間終止,都是序列各個元件的成分),我沒有py里寫parser的經驗,不過如果你用parsec的話(這個原生haskell模組有各種語言的binding或類似模組),我恰巧幾天前寫過一個parsec使用小例子,你如果准備用類似模組,

⑤ python 文件讀取的問題

首先,"失敗實驗2"是能夠成功的。為什麼你失敗了呢?我用的2.5。
也就是說,創建後,用close()將數據寫入,再使用同樣的變數名讀取是完全沒有問題的。(因為已經重新定義了嘛!)

失敗的實驗1中,

f.write('ase') 後數據並沒有被寫入,在緩存區中。
然後f.read(),我個人理解為連緩存中的其他數據也讀取了,或者破壞了緩存中的內容。可以看到,開頭是要寫入的內容『asd』,後面是無意義的數據。

f.close()時,寫入的已經是被修改後的緩存區內容了……也就是asd再加上一大串NULL等……

這個例子告訴我們……用W+時還沒close前不要讀取……哈哈。
恩~恩~

⑥ python小白提問

"""如果文件存在則寫入文件,如果文件不存在則創建這個新文件。
打開文件時,可指定模式 open(filename, 'w'):
'r':讀取模式(只讀模式)
'w':寫入模式(寫入文件,每次運行都會覆蓋原來文件)
'a':附加模式(在文件原有的基礎上,添加新內容)
'r+':能夠讀取和寫入文件的模式
如果你省略了模式實參,Python將以默認的只讀模式打開文件。 如果你寫入的文件不存在,函數open()將自動創建它。然而,以寫入'w'模式打開文件時千萬要小心,因為如果指定的文件已經存在,Python將在返迴文件對象前清空該文件。
Python只能將字元串寫入文本文件。要將數值數據存儲到文本文件中,必須先使用函數str()將其轉換為字元串格式。"""
filename = 'programming.txt'
#寫入文件,每次運行都會覆蓋原來文件
with open(filename, 'w') as file_object:
file_object.write("I love programming.\n")
file_object.write("I love cteating new games.\n")

#在文件原有的基礎上,添加新內容
with open(filename, 'a') as file_object:
file_object.write("I also love finding meaning in large datasets.\n")
file_object.write("I love creating apps that can run in a browser.\n")

#打開文件filename
with open(filename) as file_object:
for line in file_object:
print(line.rstrip())

⑦ 程序開發中已緩存的位元組碼歸失效嗎

對於檢查型基於哈希的 .pyc 文件,Python 會通過求哈希源文件並將結果哈希值與緩存文件中的哈希值比對來確定緩存有效性。 如果檢查型基於哈希的緩存文件被確定為失效,Python 會重新生成並寫入一個新的檢查型基於哈希的緩存文件。 對於非檢查型 .pyc 文件,只要其存在 Python 就會直接認定緩存文件有效。
在 程序開發中從 .pyc 文件載入已緩存位元組碼之前,它會檢查緩存是否由最新的 .py 源文件所生成。 默認情況下,Python 通過在所寫入緩存文件中保存源文件的最新修改時間戳和大小來實現這一點。 在運行時,導入系統會通過比對緩存文件中保存的元數據和源文件的元數據確定該緩存的有效性。

Python 也支持「基於哈希的」緩存文件,即保存源文件內容的哈希值而不是其元數據。 存在兩種基於哈希的 .pyc 文件:檢查型和非檢查型。 對於檢查型基於哈希的 .pyc 文件,Python 會通過求哈希源文件並將結果哈希值與緩存文件中的哈希值比對來確定緩存有效性。 如果檢查型基於哈希的緩存文件被確定為失效,Python 會重新生成並寫入一個新的檢查型基於哈希的緩存文件。 對於非檢查型 .pyc 文件,只要其存在 Python 就會直接認定緩存文件有效。 確定基於哈希的 .pyc 文件有效性的行為可通過 --check-hash-based-pycs 旗標來重載。
解釋器執行時,會逐個翻譯位元組碼,不管之前這個位元組碼有沒有執行過,當前方法有沒有執行過,虛擬機啟動的時候會初始化一堆和位元組碼對應的常式,這些常式就是位元組碼對應的機器碼,執行時找到位元組碼對應的常式並執行常式的本地碼
解釋執行bytecode的時候不會產生機器碼,此時不存在用內存緩存的問題。當某一區域代碼反復執行變成熱點時才會觸發JIT,編譯成機器碼,此時才有緩存下來的必要,下次執行就是機器碼,從而極大提高性能了

⑧ python怎麼打開文件模式

讀寫文件是最常見的IO操作。Python內置了讀寫文件的函數,用法和C是兼容的。
讀寫文件前,我們先必須了解一下,在磁碟上讀寫文件的功能都是由操作系統提供的,現代操作系統不允許普通的程序直接操作磁碟,所以,讀寫文件就是請求操作系統打開一個文件對象(通常稱為文件描述符),然後,通過操作系統提供的介面從這個文件對象中讀取數據(讀文件),或者把數據寫入這個文件對象(寫文件)。
讀文件
要以讀文件的模式打開一個文件對象,使用Python內置的open()函數,傳入文件名和標示符:
>>> f = open('/Users/michael/test.txt', 'r')

標示符'r'表示讀,這樣,我們就成功地打開了一個文件。
如果文件不存在,open()函數就會拋出一個IOError的錯誤,並且給出錯誤碼和詳細的信息告訴你文件不存在:
>>> f=open('/Users/michael/notfound.txt', 'r')
Traceback (most recent call last):
File "<stdin>", line 1, in <mole>
FileNotFoundError: [Errno 2] No such file or directory: '/Users/michael/notfound.txt'

如果文件打開成功,接下來,調用read()方法可以一次讀取文件的全部內容,Python把內容讀到內存,用一個str對象表示:
>>> f.read()'Hello, world!'

最後一步是調用close()方法關閉文件。文件使用完畢後必須關閉,因為文件對象會佔用操作系統的資源,並且操作系統同一時間能打開的文件數量也是有限的:
>>> f.close()

由於文件讀寫時都有可能產生IOError,一旦出錯,後面的f.close()就不會調用。所以,為了保證無論是否出錯都能正確地關閉文件,我們可以使用try ... finally來實現:
try:
f = open('/path/to/file', 'r')
print(f.read())finally: if f:
f.close()

但是每次都這么寫實在太繁瑣,所以,Python引入了with語句來自動幫我們調用close()方法:
with open('/path/to/file', 'r') as f:
print(f.read())

這和前面的try ... finally是一樣的,但是代碼更佳簡潔,並且不必調用f.close()方法。
調用read()會一次性讀取文件的全部內容,如果文件有10G,內存就爆了,所以,要保險起見,可以反復調用read(size)方法,每次最多讀取size個位元組的內容。另外,調用readline()可以每次讀取一行內容,調用readlines()一次讀取所有內容並按行返回list。因此,要根據需要決定怎麼調用。
如果文件很小,read()一次性讀取最方便;如果不能確定文件大小,反復調用read(size)比較保險;如果是配置文件,調用readlines()最方便:
for line in f.readlines():
print(line.strip()) # 把末尾的'\n'刪掉

file-like Object
像open()函數返回的這種有個read()方法的對象,在Python中統稱為file-like Object。除了file外,還可以是內存的位元組流,網路流,自定義流等等。file-like Object不要求從特定類繼承,只要寫個read()方法就行。
StringIO就是在內存中創建的file-like Object,常用作臨時緩沖。
二進制文件
前面講的默認都是讀取文本文件,並且是UTF-8編碼的文本文件。要讀取二進制文件,比如圖片、視頻等等,用'rb'模式打開文件即可:
>>> f = open('/Users/michael/test.jpg', 'rb')>>> f.read()b'\xff\xd8\xff\xe1\x00\x18Exif\x00\x00...' # 十六進製表示的位元組

字元編碼
要讀取非UTF-8編碼的文本文件,需要給open()函數傳入encoding參數,例如,讀取GBK編碼的文件:
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk')>>> f.read()'測試'

遇到有些編碼不規范的文件,你可能會遇到UnicodeDecodeError,因為在文本文件中可能夾雜了一些非法編碼的字元。遇到這種情況,open()函數還接收一個errors參數,表示如果遇到編碼錯誤後如何處理。最簡單的方式是直接忽略:
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore')

寫文件
寫文件和讀文件是一樣的,唯一區別是調用open()函數時,傳入標識符'w'或者'wb'表示寫文本文件或寫二進制文件:
>>> f = open('/Users/michael/test.txt', 'w')>>> f.write('Hello, world!')>>> f.close()

你可以反復調用write()來寫入文件,但是務必要調用f.close()來關閉文件。當我們寫文件時,操作系統往往不會立刻把數據寫入磁碟,而是放到內存緩存起來,空閑的時候再慢慢寫入。只有調用close()方法時,操作系統才保證把沒有寫入的數據全部寫入磁碟。忘記調用close()的後果是數據可能只寫了一部分到磁碟,剩下的丟失了。所以,還是用with語句來得保險:
with open('/Users/michael/test.txt', 'w') as f:
f.write('Hello, world!')

要寫入特定編碼的文本文件,請給open()函數傳入encoding參數,將字元串自動轉換成指定編碼。
細心的童鞋會發現,以'w'模式寫入文件時,如果文件已存在,會直接覆蓋(相當於刪掉後新寫入一個文件)。如果我們希望追加到文件末尾怎麼辦?可以傳入'a'以追加(append)模式寫入。
所有模式的定義及含義可以參考Python的官方文檔。

⑨ 如何實現python的mysql連接池並加入緩存過期

import MySQLdb
import time
import string
import redis

class PooledConnection:
#構建連接池實例
def __init__(self, maxconnections, connstr,dbtype):
from Queue import Queue
self._pool = Queue(maxconnections) # create the queue
self.connstr = connstr
self.dbtype=dbtype
self.maxconnections=maxconnections
#根據你給數目來創建鏈接,並且寫入剛才創建的隊列裡面。
try:
for i in range(maxconnections):
self.fillConnection(self.CreateConnection(connstr,dbtype))
except Exception,e:
raise e

def fillConnection(self,conn):
try:
self._pool.put(conn)

except Exception,e:
raise "fillConnection error:"+str(e)

def returnConnection(self, conn):
try:
self._pool.put(conn)
except Exception,e:
raise "returnConnection error:"+str(e)

def getConnection(self):
try:
return self._pool.get()
except Exception,e:
raise "getConnection error:"+str(e)

def ColseConnection(self,conn):
try:
self._pool.get().close()
self.fillConnection(self.CreateConnection(connstr,dbtype))
except Exception,e:
raise "CloseConnection error:"+str(e)

def CreateConnection(self,connstr,dbtype):
if dbtype=='xxx':
pass
elif dbtype=='mysql':
try:
db_conn = connstr.split("#");
#conndb=MySQLdb.connect(db=conf.mydb,host=conf.dbip,user=conf.myuser,passwd=conf.mypasswd);
conndb=MySQLdb.connect(user=db_conn[0],passwd=db_conn[1],host=db_conn[2],port=string.atoi(db_conn[3]),db=db_conn[4]);
conndb.clientinfo = 'datasync connection pool from datasync.py';
conndb.ping();
except Exception, e:
raise 'conn targetdb datasource Excepts,%s!!!(%s).'%(db_conn[2],str(e))
return None

#mysql如下創建連接池:
connstring="xiaorui.cc#xiaoru.cc#xiaorui.cc#3306#dbname";
mysqlpool=PooledConnection(10,connstring,"mysql");
#獲取連接:
mysqlpool.getConnection()