環形緩衝器

環形緩衝器

環形緩衝器(ringr buffer),也稱作圓形佇列(circular queue),循環緩衝區(cyclic buffer),圓形緩衝區(circula buffer),是一種用於表示一個固定尺寸、頭尾相連的緩衝區的數據結構,適合快取數據流。

基本介紹

  • 中文名:環形緩衝器
  • 外文名:Ring Buffer
  • 別名:循環緩衝區、圓形緩衝區
  • 類型:集合、容器
簡介,用法,工作過程,圓形緩衝區工作機制,讀指針與寫指針,區分緩衝區滿或者空,總是保持一個存儲單元為空,使用數據計數,鏡像指示位,讀寫計數,記錄最後的操作,POSIX最佳化實現,Linux核心的kfifo,

簡介

在通信程式中,經常使用環形緩衝器作為數據結構來存放通信中傳送和接收的數據。環形緩衝區是一個先進先出的循環緩衝區,可以向通信程式提供對緩衝區的互斥訪問。

用法

圓形緩衝區的一個有用特性是:當一個數據元素被用掉後,其餘數據元素不需要移動其存儲位置。相反,一個非圓形緩衝區(例如一個普通的佇列)在用掉一個數據元素後,其餘數據元素需要向前搬移。換句話說,圓形緩衝區適合實現先進先出緩衝區,而非圓形緩衝區適合後進先出緩衝區。
圓形緩衝區適合於事先明確了緩衝區的最大容量的情形。擴展一個圓形緩衝區的容量,需要搬移其中的數據。因此一個緩衝區如果需要經常調整其容量,用鍊表實現更為合適。
寫操作覆蓋圓形緩衝區中未被處理的數據在某些情況下是允許的。特別是在多媒體處理時。例如,音頻的生產者可以覆蓋掉音效卡尚未來得及處理的音頻數據。

工作過程

一個圓形緩衝區最初為空並有預定的長度。例如,這是一個具有七個元素空間的圓形緩衝區,其中底部的單線與箭頭表示“頭尾相接”形成一個圓形地址空間:
環形緩衝器環形緩衝器
假定1被寫入緩衝區中部(對於圓形緩衝區來說,最初的寫入位置在哪裡是無關緊要的):
插入一個數據插入一個數據
再寫入2個元素,分別是2 & 3 — 被追加在1之後:
添加元素添加元素
如果兩個元素被處理,那么是緩衝區中最老的兩個元素被移除。在本例中,1 & 2被移除,緩衝區中只剩下3:
除去兩個元素除去兩個元素
如果緩衝區中有7個元素,則是滿的:
填滿緩衝區填滿緩衝區
如果緩衝區是滿的,又要寫入新的數據,一種策略是覆蓋掉最老的數據。此例中,2個新數據— A & B — 寫入,覆蓋了3 & 4:
覆蓋數據覆蓋數據
也可以採取其他策略,禁止覆蓋緩衝區的數據,採取返回一個錯誤碼或者拋出異常。最終,如果從緩衝區中移除2個數據,不是3 & 4 而是 5 & 6 。因為 A & B 已經覆蓋了3 & 4:
移除數據移除數據

圓形緩衝區工作機制

由於計算機記憶體是線性地址空間,因此圓形緩衝區需要特別的設計才可以從邏輯上實現。

讀指針與寫指針

一般的,圓形緩衝區需要4個指針:
  • 在記憶體中實際開始位置;
  • 在記憶體中實際結束位置,也可以用緩衝區長度代替;
  • 存儲在緩衝區中的有效數據的開始位置(讀指針);
  • 存儲在緩衝區中的有效數據的結尾位置(寫指針)。
讀指針、寫指針可以用整型值來表示。下例為一個未滿的緩衝區的讀寫指針:
未滿緩衝區未滿緩衝區
下例為一個滿的緩衝區的讀寫指針:
滿的緩衝區滿的緩衝區

區分緩衝區滿或者空

緩衝區是滿、或是空,都有可能出現讀指針與寫指針指向同一位置:
指針在同一位置指針在同一位置
有多種策略用於檢測緩衝區是滿、或是空.

總是保持一個存儲單元為空

緩衝區中總是有一個存儲單元保持未使用狀態。緩衝區最多存入
個數據。如果讀寫指針指向同一位置,則緩衝區為空。如果寫指針位於讀指針的相鄰後一個位置,則緩衝區為滿。這種策略的優點是簡單、魯棒;缺點是語義上實際可存數據量與緩衝區容量不一致,測試緩衝區是否滿需要做取餘數計算。

使用數據計數

這種策略不使用顯式的寫指針,而是保持著緩衝區記憶體儲的數據的計數。因此測試緩衝區是空是滿非常簡單;對性能影響可以忽略。缺點是讀寫操作都需要修改這個存儲數據計數,對於多執行緒訪問緩衝區需要並發控制。

鏡像指示位

緩衝區的長度如果是n,邏輯地址空間則為
;那么,規定
為鏡像邏輯地址空間。本策略規定讀寫指針的地址空間為
,其中低半部分對應於常規的邏輯地址空間,高半部分對應於鏡像邏輯地址空間。當指針值大於等於
時,使其折返(wrapped)到
。使用一位表示寫指針或讀指針是否進入了虛擬的鏡像存儲區:置位表示進入,不置位表示沒進入還在基本存儲區。
鏡像指示位鏡像指示位
在讀寫指針的值相同情況下,如果二者的指示位相同,說明緩衝區為空;如果二者的指示位不同,說明緩衝區為滿。這種方法優點是測試緩衝區滿/空很簡單;不需要做取餘數操作;讀寫執行緒可以分別設計專用算法策略,能實現精緻的並發控制。 缺點是讀寫指針各需要額外的一位作為指示位。
如果緩衝區長度是2的冪,則本方法可以省略鏡像指示位。如果讀寫指針的值相等,則緩衝區為空;如果讀寫指針相差n,則緩衝區為滿,這可以用條件表達式(寫指針 == (讀指針 異或 緩衝區長度))來判斷。
// This approach adds one bit to end and start pointers// Circular buffer objecttypedef struct {    int size; // maximum number of elements    int start; // index of oldest element    int end; // index at which to write new element    ElemType *elems; // vector of elements} CircularBuffer;void cbInit(CircularBuffer *cb, int size) {    cb->size = size;    cb->start = 0;    cb->end = 0;    cb->elems = (ElemType *)calloc(cb->size, sizeof(ElemType));}void cbPrint(CircularBuffer *cb) {    printf("size = 0x%x, start = %d, end = %d\n", cb->size, cb->start, cb->end);}int cbIsFull(CircularBuffer *cb) {// This inverts the most significant bit of start before comparison    return cb->end == (cb->start ^ cb->size);int cbIsEmpty(CircularBuffer *cb) {    return cb->end == cb->start;}int cbIncr(CircularBuffer *cb, int p) {// start and end pointers incrementation is done modulo 2*size    return (p + 1) & (2 * cb->size - 1); void cbWrite(CircularBuffer *cb, ElemType *elem) {    cb->elems[cb->end & (cb->size - 1)] = *elem;    if (cbIsFull(cb)) // full, overwrite moves start pointer        cb->start = cbIncr(cb, cb->start);    cb->end = cbIncr(cb, cb->end);}void cbRead(CircularBuffer *cb, ElemType *elem) {    *elem = cb->elems[cb->start & (cb->size - 1)];    cb->start = cbIncr(cb, cb->start);}

讀寫計數

用兩個有符號整型變數分別保存寫入、讀出緩衝區的數據數量。其差值就是緩衝區中尚未被處理的有效數據的數量。這種方法的優點是讀執行緒、寫執行緒互不干擾;缺點是需要額外兩個變數。

記錄最後的操作

使用一位記錄最後一次操作是讀還是寫。讀寫指針值相等情況下,如果最後一次操作為寫入,那么緩衝區是滿的;如果最後一次操作為讀出,那么緩衝區是空。 這種策略的缺點是讀寫操作共享一個標誌位,多執行緒時需要並發控制

POSIX最佳化實現

#include <sys/mman.h>#include <stdlib.h>#include <unistd.h>#define report_exceptional_condition() abort ()struct ring_buffer {    void *address;    unsigned long count_bytes;    unsigned long write_offset_bytes;    unsigned long read_offset_bytes;};// Warning order should be at least 12 for Linuxvoid ring_buffer_create (struct ring_buffer *buffer, unsigned long order) {    char path[] = "/dev/shm/ring-buffer-XXXXXX";    int file_descriptor;    void *address;    int status;    file_descriptor = mkstemp(path);    if (file_descriptor < 0)        report_exceptional_condition();    status = unlink(path);    if (status)        report_exceptional_condition();    buffer->count_bytes = 1UL << order;    buffer->write_offset_bytes = 0;    buffer->read_offset_bytes = 0;    status = ftruncate(file_descriptor, buffer->count_bytes);    if (status)        report_exceptional_condition();    buffer->address = mmap (NULL, buffer->count_bytes << 1, PROT_NONE,                            MAP_ANONYMOUS|MAP_PRIVATE, -1, 0);    if (buffer->address == MAP_FAILED)        report_exceptional_condition();    address =        mmap(buffer->address, buffer->count_bytes, PROT_READ | PROT_WRITE,             MAP_FIXED | MAP_SHARED, file_descriptor, 0);    if (address != buffer->address)        report_exceptional_condition();    address = mmap(buffer->address + buffer->count_bytes,                   buffer->count_bytes, PROT_READ | PROT_WRITE,                   MAP_FIXED | MAP_SHARED, file_descriptor, 0);    if (address != buffer->address + buffer->count_bytes)        report_exceptional_condition();    status = close(file_descriptor);    if (status)        report_exceptional_condition();}void ring_buffer_free(struct ring_buffer *buffer) {    int status;    status = munmap(buffer->address, buffer->count_bytes << 1);    if (status)        report_exceptional_condition ();}void *ring_buffer_write_address(struct ring_buffer *buffer) {    // void pointer arithmetic is a constraint violation.    return buffer->address + buffer->write_offset_bytes;}void ring_buffer_write_advance(struct ring_buffer *buffer, unsigned long count_bytes) {    buffer->write_offset_bytes += count_bytes;}void *ring_buffer_read_address(struct ring_buffer *buffer) {    return buffer->address + buffer->read_offset_bytes;}void ring_buffer_read_advance(struct ring_buffer *buffer, unsigned long count_bytes) {    buffer->read_offset_bytes += count_bytes;    if (buffer->read_offset_bytes >= buffer->count_bytes) {        //如果讀指針大於等於緩衝區長度,那些讀寫指針同時折返回[0, buffer_size]範圍內        buffer->read_offset_bytes -= buffer->count_bytes;        buffer->write_offset_bytes -= buffer->count_bytes;    }}unsigned long ring_buffer_count_bytes(struct ring_buffer *buffer) {    return buffer->write_offset_bytes - buffer->read_offset_bytes;}unsigned long ring_buffer_count_free_bytes(struct ring_buffer *buffer) {    return buffer->count_bytes - ring_buffer_count_bytes (buffer);}void ring_buffer_clear(struct ring_buffer *buffer) {    buffer->write_offset_bytes = 0;    buffer->read_offset_bytes = 0;}/*  Note, that initial anonymous mmap() can be avoided - after initial mmap()         for descriptor fd, you can try mmap() with hinted address as (buffer->address         + buffer->count_bytes) and if it fails - another one with hinted address as         (buffer->address - buffer->count_bytes). Make sure MAP_FIXED is not used in         such case, as under certain situations it could end with segfault. The         advantage of such approach is, that it avoids requirement to map twice the         amount you need initially (especially useful e.g. if you want to use         hugetlbfs and the allowed amount is limited) and in context of gcc/glibc         - you can avoid certain feature macros (MAP_ANONYMOUS usually requires one         of: _BSD_SOURCE, _SVID_SOURCE or _GNU_SOURCE). */

Linux核心的kfifo

Linux核心檔案kfifo.h和kfifo.c中,定義了一個先進先出圓形緩衝區實現。如果只有一個讀執行緒、一個寫執行緒,二者沒有共享的被修改的控制變數,那么可以證明這種情況下不需要並發控制。kfifo就滿足上述條件。kfifo要求緩衝區長度必須為2的冪。讀、寫指針分別是無符號整型變數。把讀寫指針變換為緩衝區內的索引值,僅需要“按位與”操作:(指針值 按位與 (緩衝區長度-1))。這避免了計算代價高昂的“求余”操作。且下述關係總是成立:讀指針 + 緩衝區存儲的數據長度 == 寫指針
即使在寫指針達到了無符號整型的上界,上溢出後寫指針的值小於讀指針的值,上述關係仍然保持成立(這是因為無符號整型加法的性質)。 kfifo的寫操作,首先計算緩衝區中當前可寫入存儲空間的數據長度:len = min{待寫入數據長度, 緩衝區長度 - (寫指針 - 讀指針)}然後,分兩段寫入數據。第一段是從寫指針開始向緩衝區末尾方向;第二段是從緩衝區起始處寫入餘下的可寫入數據,這部分可能數據長度為0即並無實際數據寫入。

相關詞條

熱門詞條

聯絡我們