私は式をウインドウ内の最後の非NULL値をゲル化しようとしている:usqlウィンドウ式で最後の非NULL値を取得するにはどうすればいいですか?
LAST_VALUE([b]) OVER (ORDER BY Timestamp ASC ROWS BETWEEN UNBOUNDED PRECEDING AND CURRENT ROW) AS bf
残念ながら、それは動作しません。 カスタム集計関数を書きましたが、それも機能しません。
public class LastNonNull<T> : IAggregate<T, T>
where T : class
{
T last;
public override void Init()
{
last = null;
}
public override void Accumulate(T val)
{
if (val != null)
{
last = val;
}
}
public override T Terminate()
{
return last;
}
}
使用しようとしています。私は、ユーザー定義のオブジェクトのどのような種類を使用することができ
AGG<DataLakeTest.LastNonNull<string>>([b]) OVER (ORDER BY Timestamp ASC ROWS BETWEEN UNBOUNDED PRECEDING AND CURRENT ROW) AS bf
Error E_CSC_USER_UNEXPECTEDOVERCLAUSE: Unexpected OVER clause. Description: An OVER clause must follow a ranking function call (such as RANK() or ROW_NUMBER()) or a WITHIN GROUP clause. Resolution: Make sure the OVER clause immediately follows a ranking function call or a WITHIN GROUP clause.
?
更新
スクリプト:
@tb1 = SELECT * FROM
(VALUES
(1, "Val1"),
(2, (string)null),
(3, "Val3"),
(5, (string) null),
(6, (string)null),
(7, "Val7"),
(8, "Val8")
) AS T(Timestamp, a);
@tb1 =
SELECT Timestamp,
??? AS a
FROM @tb1;
OUTPUT @tb1 TO "/test.csv" USING Outputters.Csv(outputHeader: true);
予想される出力:
"Timestamp","a"
1,"Val1"
2,"Val1"
3,"Val3"
5,"Val3"
6,"Val3"
7,"Val7"
8,"Val8"
アップデート2:
残念ながら、私はLAG関数を使用することはできませんNULL以外の値の間のNULL値の数は不明であるためです。私は非常に巨大なテーブルを持っている場合、処理ステップが凍結するので、クロスジョインを使用することはできません。私の現在のソリューション(私はそれを使用して満足していない):
@tb1 =
SELECT Timestamp,
[a],
[a] != null && [a] != LEAD([a], 1) OVER(ORDER BY Timestamp ASC) AS aSwitch
FROM @tb1;
@tb1 =
SELECT Timestamp,
[a],
SUM(aSwitch ? 1 : 0) OVER(ORDER BY Timestamp ASC ROWS UNBOUNDED PRECEDING) AS aGrp
FROM @tb1;
@tb1 =
SELECT Timestamp,
FIRST_VALUE([a]) OVER(PARTITION BY aGrp ORDER BY Timestamp ASC) AS a
FROM @tb1;
最終的な解決策:
public class ReplaceNullReducer : IReducer
{
string lastValue = null;
public override IEnumerable<IRow> Reduce(IRowset input, IUpdatableRow output)
{
foreach (var row in input.Rows)
{
var val = row.Get<string>("a");
if (val != null) lastValue = val;
output.Set<string>("a", lastValue);
output.Set<int>("Timestamp", row.Get<int>("Timestamp"));
yield return output.AsReadOnly();
}
}
}
USQL(何らかの理由で "ALL" オプションはE_CSC_USER_SYNTAXERRORエラーをトリガーするので、私はダム導入デバイス欄):
@tb1 = SELECT * FROM
(VALUES
(1, "Val1", 1),
(2, (string)null, 1),
(3, "Val3", 1),
(5, (string) null, 1),
(6, (string)null, 1),
(7, "Val7", 1),
(8, "Val8", 1)
) AS T(Timestamp, a, device);
@tb1 = REDUCE @tb1 PRESORT [Timestamp] ON device
PRODUCE [Timestamp] int, [a] string
USING new DataLakeTest.ReplaceNullReducer();
いくつかのサンプルデータと期待される結果を提供してください。 – wBob
入力データと期待出力を追加 –
私は2,000万行のテストファイルを作成しました.UDOカスタムレデューサーは本当にうまくスケーリングされました。私の純粋なU-SQLのアプローチは絶対にひどくスケールされたので、私はそれを使用しないことをお勧めします。私はより効率的なアプローチを探しています。 – wBob